1. ALT+F4 реализуется windows API, если ваша программа имеет окно, отрисованное стандартными средствами, то она будет закрыта.
Напишите программу, чтобы она запускалась в фоне, как служба, без запуска GUI - тогда ALT+F4 работать не будет.
2. Windows + R это хоткей самого explorer.exe, пока он не запущен, эта комбинация работать не будет.
3. Можете запустить свою программу вместо explorer.exe (в реестре), можете запустить ее как службу (установить новую службу можно через реестр HKLM/SYSTEM/CurrentControlSet/Services или консольную утилиту sc)