Елисей Константинов

Есть по-разному устроенные libc, некоторые из них можно приспособить для работы в ядре. Для начала нужно понимать, что в libc есть часть, которая совсем не зависит от ОС (например все функции mem*() или большинство функций str*()), есть часть, зависимость которой от ОС реализована в терминах других функций libc (например printf() может выделять память и может записывать в файл, но обе эти функции уже реализованы в других местах libc), а есть часть напрямую взаимодействующая с ОС.
Некоторые libc написаны так, что эта последняя часть чётко отделена (например newlib) и для адаптации к другой ОС или к окружению внутри ядра нужно реализовать небольшое количество интерфейсов (для newlib это будет вариант libgloss).

Ну один столбец синим он вам заполнил.
А так, у вас в проверке границ MOV AX, Y и MOV AX, X вместо [Y] и [X]

Потому что у ваша программа отработала и завершилась. Добавьте паузу, ожиданные ввода данных или что-то ещё и ваша программа будет ждать
Вы же не удивляетесь, что запускаю компилятор, он останавливается после завершения работы? Вашей программе просто нечего больше делать.

Да, лицензия LGPL для того и придумана, чтобы можно было линковать закрытый код с открытым, при этом изменения в сам этот открытый код необходимо публиковать.

Теоретически достаточно поставить MXE и прописать соответствующий компилятор в QtCreator. Под Ubuntu я себе собрал такую среду и спокойно компилирую EXE-шники, просто переключившись на другую схему сборки в QtCreator.
Как там с OSX на практике - не пробовал и не завидую новичку, которому понадобится разобраться с этой кухней...