jcmvbkbc

Eсть программа на assembler без комментариев. Надо ее ускорить, изменив некоторые участки. Искать эти участки большая морока.

Искать эти участки можно с помощью профилирования.

На ассемблере в программе есть раздел .text, .bss, .data

Обычно эти разделы называют секциями а не сегментами. Потому что в ELF-файлах сегменты тоже есть, но у них нет имён.

при компиляции в машинный код там тоже так на сегменты разбит

Разбит, да. А при линковке некоторые секции можно объединить. Обычно неизменные секции (например .text, .rodata, .tls) объединяют в одну кучу, а все изменяемые (например .bss, .data) объединяют в другую кучу. На "больших" ОС (типа linux) эти кучи эти выравнивают по границе страницы и делают неизменные секции доступными только для чтения. Это помогает сэкономить память и использовать одни и те же страницы для представления неизменных данных в разных процессах.

для выполнения процессором

Процессору по большому счёту всё равно как расположено в памяти то, что он выполняет.

mul al,5

Нет такого опкода. mul вообще на непосредственное значение умножать не может. imul который может, умножает как минимум 16-битное значение в ax.
Вместо mul умножить на 5 можно через lea (начиная с i386) либо через сдвиг на 2 и сложение.

idiv cx,4

idiv так не умеет. Куда проще было бы сделать sar cx, 2

mov al,x
cmp al,a
jg sled1
mov bl,a
...

как сделать разветвление от условия, если это условие не удовлетворяет.

Если условие не удовлетворено, инструкция jg sled1 не совершает перехода и ты просто выполняешь следующую за ней инструкцию -- mov bl, a. Ветвления и переходы в твоём коде выглядят правильно.

Указатель стека (RSP: 0x00007FFFFFFFEA78) указывает примерно в то же место, где находится код программы (0x7fffffffea75: push rbx). Код обычно защищён от записи, соответственно записать в стек может быть нельзя по этой причине. Кроме того, если записать в стек таки можно, push rbx как раз перепишет саму себя и следующую инструкцию. Без отладчика это может работать за счёт конвейера, но под отладчиком это работать не будет.

только проблема в том, что в gcc формат ассемблерных вставок другой

Разберись, потом будешь использовать его с удовольствием:

int main() {
  int a = 1;
  int b = 3;
  int c;

  asm (
    "mov %[a], %[c]\n\t"
    "add %[b], %[c]\n\t"
    : [c] "=mr" (c)
    : [a] "mr" (a), [b] "mr" (b));

  printf("a + b = %x + %x = %x\n", a, b, c);
}

Сложить смещение (0x28316dc) с адресом следующей команды (0x7ffca9332358).

Меня напрягает вечное указание размера функции

Это не размер функции. Это размер передаваемых параметров. И это часть ABI stdcall, документированная здесь, к gcc не имеющая отношения.

Можно ли это как-то убрать, и просто объявлять: _MessageBox, _ExitProcess, как с msvcrt: _printf, __getch и т.д?

На ассемблере? Ну разве что написав по макросу для каждой из этих функций.

Для чего развивают GNU Assembler

- это ассемблер который штатно работает с gcc;
- это ассемблер который поддерживает дофига ( больше 70 ) процессорных архитектур, а не только x86.

GAS практически не документирован

Чего именно тебе не хватает здесь?

Как объявить процедуру с аргументом строкой?

Это же ассемблер, какой "аргумент строка"? Всё -- регистры или слова в памяти.

proc getel text
endp

text -- это указатель на твою строку.

У fasm есть кучка примеров, где можно посмотреть, как там что делается.

include 'linInclude/proc64.inc'

В стандартной поставке fasm нет ведь такого файла? Где ты его взял?

У меня заработал вот такой код:

format ELF64 executable 3

  include '/usr/share/fasm/examples/elfexe/dynamic/import64.inc'
  interpreter '/lib64/ld-linux-x86-64.so.2'

  needed  'libc.so.6'

  import  exit, printf

segment readable executable
entry $

        lea rdi, [fmtS]
        lea rsi, [msg]
        call [printf]
        call [exit]

segment readable writeable
        msg db 'Hello, World!', 0xA, 0
        fmtS db '%s', 0xA, 0