int02h

Не смотрели в сторону ИУ7 в МГТУ им. Баумана?

Математика — понятие растяжимое. Может быть классический матанализ и не нужен будет. А вот дискретная математика мне не раз приходила на помощь (программирую под .NET).

Я не считаю себя мега-опытным программистом, однако с удовольствием отвечу на Ваш вопрос, если конечно смогу. Пишите в личку.

У нас в универе рекоммендовали следующие книжки:

• По архитектуре Windows — Руссинович М. Соломон Д. «Внутреннее устройство Microsoft Windows»
• По архитектуре Unix — Вахалия. «Unix изнутри»