Через реестр никак для одной программы. В других программах или перехват системных функций используется, или собственный драйвер.
Через реестр можно отключить Enter для всех. Это ремап (remap) называется. Вообще эта штука для того, чтобы переназначать клавиши. Но никто не запрещает вообще отключать их.
Вот простой пример, как отключить Enter для всей системы:
Windows Registry Editor Version 5.00
[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Keyboard Layout]
"Scancode Map"=hex:00,00,00,00,00,00,00,00,02,00,00,00,00,00,1c,00,00,00,00,00
Скопируйте и сохраните в файл с расширением reg. Далее импортируйте. После релогина или перезагрузки, Enter не будет работать. Чтобы вернуть, нужно удалить в реестре "Scancode Map" по адресу - HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Keyboard Layout