Как заставить GCC не использовать SSE-инструкции с выравниванием для операндов в стеке?

Question

[User700]

При использовании компилятора GCC 5.1.0 (32bits Windows, компилятор TDM GCC) для компиляции dll-библиотеки при включенных SSE-оптимизациях происходит ошибка SEGFAULT (обращение к 0xffffffff). Выяснил, что ошибка связана с инструкциями типа:
movaps %xmm0,0x50(%esp)
movaps %xmm0,-0x10(%ebp)
Т.к. при этом параметры стека, и следовательно esp, ebp не выровнены по границе 16 байт (вероятно при вызове из основного модуля), то происходит ошибка. Нужно было бы использовать movups для невыровненных данных. Как этого можно достичь? В чем может быть проблема? Есть ли какие-то настройки для использования только movups вместо movaps; возможно есть и другие инструкции, обращающиеся к невыровненным данным. Включение SSE-оптимизаций при линковке основного модуля не дало эффектов.

Comments

[Армянское Радио]

Больше похоже на последствия UB. Ну и компилятор старенький.

[Евгений Шатунов]

Армянское Радио, UB, безусловно, исключать не стоит, но пока по описанию вопроса видно что автор на верном пути рассуждений.
При загрузке регистров его память не выровнена. Это может быть последствием работы с четырехмерным вектором четырехбайтовых целых, для которого не был использован alignas. Выравнивание у такого вектора будет на 4Б.

[Евгений Шатунов]

User700 , показывай код. Определение типа этого вектора, информацию после компиляции - размер и выравнивание объекта вектора. Покажи участок кода, который транслируется в сбойную последовательность инструкций.

[User700]

в коде dll что-то такое, с учетом инлайнинга:

C::C() {
   ....
   f("aaa", -1, 0.0);
   ....
}

(f тоже в dll)
И получается такое. Как я понял, он просто пытается сохранять в стеке xmm-регистры.

0xacf850	movups %xmm0,(%edx)
.........
0xacf87c	movsd  %xmm1,0x20(%esp)
0xacf882	movl   $0xd62889,(%esp)
0xacf889	mov    %ebp,%ecx
0xacf88b	mov    %eax,0x34(%esp)
0xacf88f	movaps %xmm0,0x10(%esp)
0xacf894	mov    %esi,0x2c(%esp)
0xacf898	call   0xacd880 < f (char const*, int, double)>
0xacf89d	sub    $0x10,%esp
0xacf8a0	mov    0x254(%ebx),%eax
0xacf8a6	cmp    0x258(%ebx),%eax
0xacf8ac	movaps 0x10(%esp),%xmm0
0xacf8b1	movsd  0x20(%esp),%xmm1
...

Но при этом, если знает что edx не выровнено, то использует movups. Возможно при компоновке dll он выравнивает стек на параграф, если есть SSE-инструкции. А вообще, кажется не выравнивает его в каждом случае при компоновке dll:

...
0xacfc06	call   0xb70340 <......(char const*, char const*)>
0xacfc0b	movsd  0xd62bc8,%xmm0
0xacfc13	sub    $0x8,%esp
...

[Евгений Шатунов]

User700,

Как я понял, он просто пытается сохранять в стеке xmm-регистры.

Если тебе нужна точность понимания, то movaps делает наоборот. Она загружает значения из памяти в векторный регистр.
Что будет если использовать alignas при объявлении объекта вектора на стеке?
Условия бывают разные и я не исключаю что в твоем коде этот вектор нельзя выровнять на 16 как тип тем же alignas, поэтому пробуй выровнять конкретный объект на стеке.

[User700]

Здесь синтаксис ассемблера выдал дебаггер / IDE как AT&T и операнды наоборот. Какой объект там сохраняется я не знаю точно, вполне возможно что несколько полей структуры, или просто набор параметров, подготовленных для следующих вызовов, с учетом инлайнинга трудно понять. Библиотека не моя, исходный код её около 2 Мб, а специальных типов для SSE там нет, только обычные массивы / циклы сложения / умножения и т.д., которые могут оптимизироваться при включении соотв. флагов. Иначе -- заметно притормаживает.
Если просто запатчить все эти инструкции в dll, то будут аналогичные ошибки уже при умножениях.

Answer 1

[jcmvbkbc]

Логичнее было бы воспользоваться опцией -mstackrealign чтобы выравнивать стек на входе в функцию.

Comments

[User700]

Компилятора (не линковщика?). Да, смотрю в сторону этого и атрибута __attribute__((force_align_arg_pointer)) у функций и методов. Пока примел это для компиляции основного модуля. Атрибут force_align_arg_pointer помогает, но не совсем: когда происходит событие по нажатию кнопки из FLTK-окна (это окно тоже все в рамках dll-библиотеки делается и обрабатывается), то появляется опять невыровненность. FLTK статически линкуется к dll-кам библиотеки при ее компиляции, а в нем самом вроде бы SSE не включен; а в обработчике нет выравнивания. Вероятно mstackrealign нужно ставить при компиляции библиотеки, т.к. основной модуль считает, что это ему нигде не нужно.

[jcmvbkbc]

Компилятора (не линковщика?).

Компилятора, компилятора.

Вероятно mstackrealign нужно ставить при компиляции библиотеки

Его нужно ставить там, где используется SSE и требуется выравнивание стека больше чем на 4.