Как исправить ASM Sigmentation fault при вызове макроса?

Question

[Олег Илюшин]

Я разрабатываю приложение Qt С++. Некоторые методы вызывают функции написанные на ассемблере в отдельном файле. Приложение компилирую под 64-битный процессор, поэтому в асме используются 64-битные регистры. Ошибка сегментации вываливается при попытке запустить простой макрос из функции.

.macro my_asm_macro src, so, dest, do
    movl    \so+60(\src), %r8d
    movl    \so+44(\src), %r9d
    movl    \so+28(\src), %r10d
    movl    \so+12(\src), %r11d
    movl    %r8d, \do+12(\dest)
    movl    %r9d, \do+28(\dest)
    movl    %r10d, \do+44(\dest)
    movl    %r11d, \do+60(\dest)
    movl    \so+40(\src), %r8d
    movl    \so+8(\src), %r9d
    movl    \so+48(\src), %r10d
    movl    \so+16(\src), %r11d
    movl    %r8d, \do+8(\dest)
    movl    %r9d, \do+40(\dest)
    movl    %r10d, \do+16(\dest)
    movl    %r11d, \do+48(\dest)
    movl    \so+20(\src), %r8d
    movl    \so+4(\src), %r9d
    movl    \so+52(\src), %r10d
    movl    \so+36(\src), %r11d
    movl    %r8d, \do+4(\dest)
    movl    %r9d, \do+20(\dest)
    movl    %r10d, \do+36(\dest)
    movl    %r11d, \do+52(\dest)
    movl    \so+0(\src), %r8d
    movl    \so+24(\src), %r9d
    movl    \so+32(\src), %r10d
    movl    \so+56(\src), %r11d
    movl    %r8d, \do+0(\dest)
    movl    %r9d, \do+24(\dest)
    movl    %r10d, \do+32(\dest)
    movl    %r11d, \do+56(\dest)
.endm

my_asm_function:
    my_asm_macro %rdi, 0, %rsp, 0           # sigfault here
    my_asm_macro %rdi, 64, %rsp, 64
    my_asm_macro %rdi, 128, %rsp, 128
    my_asm_macro %rdi, 192, %rsp, 192
    movdqa  64(%rsp), %xmm0
    movdqa  80(%rsp), %xmm1
    movdqa  96(%rsp), %xmm2
    movdqa  112(%rsp), %xmm3
    movdqa  128+64(%rsp), %xmm8
    movdqa  128+80(%rsp), %xmm9
    movdqa  128+96(%rsp), %xmm10
    movdqa  128+112(%rsp), %xmm11
    movdqa  256+64(%rsp), %xmm12
    movdqa  256+80(%rsp), %xmm13
    movdqa  256+96(%rsp), %xmm14
    movdqa  256+112(%rsp), %xmm15

    movq    %rsi, %rbx
    leaq    3*131072(%rsi), %rax

Comments

[Олег Илюшин]

Похоже что ошибка происходит из-за того, что выполняется код закрытый ifdef'ом. По какой-то причине директива просто игнорируется.

#if defined(__win32__)
// code should not run on linux
.....
#endif

[Олег Илюшин]

С этим разобрался, оказывается разрешение имени файла должно быть с большой буквы, чтобы работали директивы препроцессора. Но ошибка сегментации не пропала.
Я в асме мягко говоря новичек, но эти функции успешно работают в другом проекте. Подскажите в какую сторону копать. Как выделить необходимую память?

Answer 1

[jcmvbkbc]

Как выглядят объявление и вызов этой функции из С++? Что за платформа (linux/...)?

Comments

[Олег Илюшин]

Платформа Linux, функция вызывается другая, которая по цепочке в последствии вызывает эту.

__uint32_t X[3 * 32] __attribute__((aligned(64)));
__uint32_t *V;
// действия над переменными
my_first_asm_function(X, V);

[Олег Илюшин]

объявление:
extern void my_first_asm_function(__uint32_t *, __uint32_t *) __asm__("my_first_asm_function");

[jcmvbkbc]

@zmeykas вы не выделили кадр стека с которым работаете в my_asm_function, а именно, я вижу, вы там собираетесь разместить примерно 512 байт данных. Стандартный способ создать кадр стека такой:

my_asm_function:
        pushq   %rbp
        movq    %rsp, %rbp
        subq    $512, %rsp
...
        popq   %rbp
        ret

[Олег Илюшин]

спасибо, этот кусок заработал. Теперь падает на другом, но я понял в каком направлении копать )