winpe очень специфическое окружение, изначально это сильно кастрированная windows созданная майкрософт для того чтобы запускать установщик и средства восстановления, сообщество докрутило это до юзабельного состояния и даже умудрились запускать приложения (само собой нелегально без лицензирования)
Но кастрированность никуда не делась, там нет огромного количества компонент, которые могут ожидать приложения, поэтому либо выкручивайся и доустанавливай их вручную (это реально но нужно разбираться с каждым персонально, причем в разрезе своего приложения)
теперь же, без какой либо поддержки от майкрософта, найти и установить нужные компоненты будет очень сложно.
p.s. анализ приложения можно сделать так - ставишь любой монитор работы с файлами и реестром (например sysinternails filemon), устанавливаешь приложение штатным способом на максимально приближенную к целевой операционную систему (winxp) и изучаешь дампы - какие файлы где ожидались, какие ключи реестра запрашивались и менялись... затем сравниваешь их значения на winpe и при необходимости создаешь.... собираешь из этого приложение и получаешь портативный установщик.
в 99% случаев установка приложений это - создание ключей реестра, копирование файлов и регстрация компонент (и само собой проверка наличия нужных компонент и их досустановка, но ты это и так должен будешь сделать, создавая окружение winpe)
p.s. регистрация com компонент вручную проводится с помощью штатной утилиты regsvr32
