Как исправить SIGSEGV при вызове MOVDQA?

Question

[Олег Илюшин]

Гугл говорит, что это, скорее всего, ошибка выравнивания стека, поскольку инструкции SSE требуют выравнивания до 16 байт. Если так, то в каком месте мне еще нужно вызывать выравнивание? Ведь предыдущие инструкции MOVDQA выполняются без ошибок.

Фрагмент кода, вызывающий ошибку сегментации.

.p2align 6
        movdqa	64(%rsp), %xmm0
        movdqa	80(%rsp), %xmm1
        movdqa	96(%rsp), %xmm2
        movdqa	112(%rsp), %xmm3
        movdqa	128+64(%rsp), %xmm8
        movdqa	128+80(%rsp), %xmm9
        movdqa	128+96(%rsp), %xmm10
        movdqa	128+112(%rsp), %xmm11
        movdqa	256+64(%rsp), %xmm12
        movdqa	256+80(%rsp), %xmm13
        movdqa	256+96(%rsp), %xmm14
        movdqa	256+112(%rsp), %xmm15

        movq	%rsi, %rbx
        leaq	3*131072(%rsi), %rax

        movdqa	%xmm0, 64(%rbx)  #sigsegv received
        movdqa	%xmm1, 80(%rbx)

Comments

[Олег Илюшин]

Полный листинг асм файла (ошибка возникает на строке 1995

С моей стороны (с++) вызывается:

__uint32_t tstate[3 * 8], ostate[3 * 8];
    __uint32_t X[3 * 32] __attribute__((aligned(64)));
    __uint32_t *V;

    V = (__uint32_t *)((sizeof(scratchpad) + 63) & ~ (63));
    . . .
    // другие операции
    . . .
    scrypt_core_3way(X, V); // Эта функция из асма

Answer 1

[jcmvbkbc]

скорее всего, ошибка выравнивания стека

Ошибка выравнивания аргумента movdqa, не обязательно это стек.

Если так, то в каком месте мне еще нужно вызывать выравнивание?

@zmeykas а в каком вы уже его вызвали? Выровнен должен быть стек, а не код.
Сформировать выровненный по 16 байт кадр стека можно, например, так:

my_asm_function:
        pushq   %rbp
        movq    %rsp, %rbp
        subq    $512, %rsp    # минимальный размер кадра -- 512 байт
        andq    $-16, %rsp    # выравнивание по 16 байт
...
        popq   %rbp
        ret

Но у вас rbx не выравнен, а он берётся из второго аргумента функции. Равняйте его. Ну или не используйте movdqa, а используйте movdqu

Comments

[Олег Илюшин]

.p2align 6

Судя по докам это и есть выравнивание. признаюсь в асме я чайник. Этот код из другого проекта, но все точки вызова функций, и определение переменных асма я сохранил как в оригинале.

[Олег Илюшин]

попробовал использовать movdqu, результат оказался таким же (SIGSEGV). Видимо проблема не в выравнивании.
Дело в том что в другом проекте этот код работает. А менять команды в файле в 2800+ строк кода мне стрёмно.
Быть может проблема в параметрах компилятора...

[Олег Илюшин]

Добавил уточнение с полным листингом асм файла и вызовом функции из C++

[jcmvbkbc]

.p2align 6
Судя по докам это и есть выравнивание

ну так я об этом уже сказал: вам не выравнивание кода нужно (а это выравнивание кода), а выравнивание данных.

[jcmvbkbc]

V = (__uint32_t *)((sizeof(scratchpad) + 63) & ~ (63));

Ну отлично, вы сделали указатель из sizeof.
Если цель была -- взять выровненный на 64 байта кусок внутри scratchpad, это можно было сделать так:

uint32_t scratchpad[много];
...
V = (uint32_t *)((((uintptr_t)scratchpad) + 63) & ~63);

[Олег Илюшин]

Похоже мне пора к окулисту. Вы меня просто спасли, большое спасибо.