jcmvbkbc

Как я понял GAS нельзя установить на Windows.

Понял неправильно. Он есть и в составе mingw и в составе cygwin и несложно его кросс-компилировать под венду самому.

Почему не обнуляется регистр cx?

Сдаётся мне, ты совсем другой вопрос хочешь задать. Например, "почему подпрограмма A1 перевода строки в её числовое значение работает неправильно". Ответ на этот вопрос: потому что в следующем коде есть две ошибки:

A1:
        push    ax
        push    cx
        push    dx
        push    di
        xor     cx, cx

        mov     di, 10
        mov     cx, [bx+2]

- во-превых длина строки записана по смещению 1 в буфере, который заполняет функция 0ah прерывания 21h,
- во-вторых, длина строки представлена одним байтом, а не словом, как ты читаешь.
С учётом этого, код должен выглядеть вот так:

A1:
        push    ax
        push    cx
        push    dx
        push    di
        xor     cx, cx

        mov     di, 10
        mov     cl, [bx+1]

А буфер для ввода строки должен быть определён так:
firstNum db 6,0,6 dup(?)

Дальше, вот тут ты опять путаешь байты со словами и загружаешь в dx больше чем надо:

.A2:
        xor     dx, dx
        mov     dx, [bx+si]
        sub     dx, '0'
        add     ax, dx

должно быть

.A2:
        xor     dx, dx
        mov     dl, [bx+si]
        sub     dl, '0'
        add     ax, dx

Дальше у тебя какая-то ерунда с балансом стека:

A1:
        push    ax
        push    cx
        push    dx
        push    di
...
        pop     si
        pop     di

ты кладёшь в него одно, а снимаешь другое и в другом количестве. Но это не важно, потому что из функции A1 ты всё равно нигде не возвращаешься. Show_AX выглядит нормально.

И К примеру выполняется такие команды, как пример инструкция чтения строки из stdin, почему вся ос не глохнет. Типа что в этот момент ожидания времени происходит, Или что ОС все 1000 потоков переключает там каждую 0.0001 секунды?

Только готовые к выполнению потоки получают процессорное время. Потоки могут останавливаться в ожидании какого-либо примитива синхронизации, например семафора или мьютекса. Такие потоки не занимают процессор.
Поток читающий из stdin может останавливаться, например, на семафоре, защищающем очередь данных stdin когда она пуста. Какой-то другой поток должен поместить новые данные в очередь stdin и открыть этот семафор, переведя ожидающий поток в состояние готовности к выполнению.

как процессор может отличить длину команды (1, 2, и 3 байт), чтобы выполнить следующую команду ?

По коду операции -- части команды, которая кодирует действие команды. В процессоре закодировано соответствие кода операции и длины команды. Код операции может полностью содержаться в первом байте команды (как в 8080), либо может быть распределён между несколькими байтами команды. В последнем случае часть кода операции находящаяся в первом байте должна отличаться от кода операции любой однобайтовой команды чтобы их можно было отличить.

Почему кроме команды Остановить все команды занимают 3 байта?

Если речь о 8080, то это утверждение неверно. В 8080 есть несколько однобайтовых команд (nop, битовые сдвиги и вращения, push/pop, и т.д.), несколько двухбайтовых (mvi и арифметика с непосредственными значениями -- adi, aci, и т.д.) и несколько трёхбайтовых (команды с прямой адресацией -- lda, sta, и т.д., переходы, вызовы подпрограмм и т.д.). Потому что значения, с которыми оперируют команды находятся в байтах следующих за первым -- в одном, если нужен 1-байтовый операнд и в двух если нужен 2-байтовый операнд или адрес.

Как происходить выборка команды? Как найти логическую схему выборки команды?

Можно посмотреть в исходники отреверсированного 8080.

00000234: xori r16,r16,32768
00000238: addi r16,r16,-32768

Это классическое расширение знакового бита, в данном случае для 16-битного числа: если бит 15 был установлен (число отрицательное), то после xor он будет сброшен (т.е. он и все биты старше него станут нулями), а после addi бит 15 и все старше него станут единицами. Если бит 15 был сброшен (число неотрицательное), то после xor он будет установлен, а после addi -- сброшен опять.

Подскажите пожалуйста смысл таких преобразований?

Знаковое расширение -- это часть short right = acum & 65535;. Оно нужно для того, чтобы работать с загруженными в регистры значениями не задумываясь об исходной ширине их типа данных. Т.е. (short)-1 в 64-битном регистре будет представлен как 0xffffffffffffffff, а не как 0xffff.

Eсть программа на assembler без комментариев. Надо ее ускорить, изменив некоторые участки. Искать эти участки большая морока.

Искать эти участки можно с помощью профилирования.

На ассемблере в программе есть раздел .text, .bss, .data

Обычно эти разделы называют секциями а не сегментами. Потому что в ELF-файлах сегменты тоже есть, но у них нет имён.

при компиляции в машинный код там тоже так на сегменты разбит

Разбит, да. А при линковке некоторые секции можно объединить. Обычно неизменные секции (например .text, .rodata, .tls) объединяют в одну кучу, а все изменяемые (например .bss, .data) объединяют в другую кучу. На "больших" ОС (типа linux) эти кучи эти выравнивают по границе страницы и делают неизменные секции доступными только для чтения. Это помогает сэкономить память и использовать одни и те же страницы для представления неизменных данных в разных процессах.

для выполнения процессором

Процессору по большому счёту всё равно как расположено в памяти то, что он выполняет.

mul al,5

Нет такого опкода. mul вообще на непосредственное значение умножать не может. imul который может, умножает как минимум 16-битное значение в ax.
Вместо mul умножить на 5 можно через lea (начиная с i386) либо через сдвиг на 2 и сложение.

idiv cx,4

idiv так не умеет. Куда проще было бы сделать sar cx, 2

mov al,x
cmp al,a
jg sled1
mov bl,a
...

как сделать разветвление от условия, если это условие не удовлетворяет.

Если условие не удовлетворено, инструкция jg sled1 не совершает перехода и ты просто выполняешь следующую за ней инструкцию -- mov bl, a. Ветвления и переходы в твоём коде выглядят правильно.

Указатель стека (RSP: 0x00007FFFFFFFEA78) указывает примерно в то же место, где находится код программы (0x7fffffffea75: push rbx). Код обычно защищён от записи, соответственно записать в стек может быть нельзя по этой причине. Кроме того, если записать в стек таки можно, push rbx как раз перепишет саму себя и следующую инструкцию. Без отладчика это может работать за счёт конвейера, но под отладчиком это работать не будет.

только проблема в том, что в gcc формат ассемблерных вставок другой

Разберись, потом будешь использовать его с удовольствием:

int main() {
  int a = 1;
  int b = 3;
  int c;

  asm (
    "mov %[a], %[c]\n\t"
    "add %[b], %[c]\n\t"
    : [c] "=mr" (c)
    : [a] "mr" (a), [b] "mr" (b));

  printf("a + b = %x + %x = %x\n", a, b, c);
}

Сложить смещение (0x28316dc) с адресом следующей команды (0x7ffca9332358).