Тем не менее, «сжатый» и «зашифрованный» это ещё и атрибуты файла, такие же, как «архивный», например. Устанавливаются они отдельными инструментами, но программно прочитать этот атрибут можно так же, как и другие атрибуты.
Всё верно, понадобится шелл, написанный в виде native-приложения. Обычные Windows-программы через BootExecute запустить не получится, за исключением autochk.exe, autofmt.exe и очень небольшого числа других.
Так никакие команды не выполнятся. В BootExecute запускаются только native-приложения. Команды-то кто будет исполнять, думаете cmd.exe? А он в этом режиме не запустится, так как не native, а win32 приложение.