Начал смотреть в сторону OllyDbg, но его разработка прекратилась очень давно - 10 лет тому назад.
За 10 лет ничего не изменилось(я имею ввиду для x32).
Попытался открыть первый исполняемый файл через x64dbg, получил сообщение о том, что я пытаюсь открыть недопустимый PE-файл
Это случается, когда вы открываете x32 PE файл в x64-х битной версии x64dbg или наоборот.
Смотрите внимательней - x64dbg есть x32 и x64.
Если изучаете x32 - тогда берите OllyDbg (или x64dbg x32). По ней за много лет написано много гайдой, + серия уроков(где-то на wasm было).
Если x64, тогда x64dbg.