Начинать изучение ассемблера с работы в современных операционных системах и на современном железе очень сложно. Лучше
начать с эмуляторов 8086 в реальном режиме. И только освоив в должной мере основы, начинать работать с реальным железом и конкретными операционными системами.
Хочу развивать свои навыки на основе Kali Linux-a, и поэтому не знаю если стоит учить и для Windows-a, необходимо-ли для обеих ОС? Или возможно сначала Линукс, а потом уже Виндовс?
Ну, если вы собираетесь ограничить "хакинг и ИБ" только Линуксами, то можно Windows и не учить. Но это будет увечная профессиональная позиция.
Заметил что во многих книгах говорится про ассемблеров для семейства процессоров x86, а у меня x64, повлияет-ли это в процессе изучения(сбои, ошибки в работе).
Процессоры обратно совместимы. Сначала вы изучаете базовые принципы и инструкции x86, потом дополняете их знаниями об x64.
А так же говорится на основе Intel, а у меня просто AMD
Вам предстоит очень долгий путь, прежде чем вы доберётесь до тех знаний, в которых сможете замечать разницу между процессорами Intel и AMD.
Как выбрать ассемблер правильно чтобы он хорошо работал под моим железом без каких либо сбоев, проблем и так далее?
FASM и
YASM.