Фрагментация существует в самой памяти ОС, там вполне может не оказаться таких больших непрерывных блоков.
Чтобы убедиться в том что приложение 64-битное, надо смотреть флаги в его PE-заголовке. Или на худой конец в диспетчере задач, он подписывает 32-битные.
Тулза от людей из микрософт, которая показывала дефрагментацию оперативной памяти, там полный швах.