Для всех платформ правила одинаковые - кидаете куда попало, как вам больше нравится.
Самый сок - это кидать скрытые файлы кешей и архивов в системные папки на ssd без возможности переноса. А поскольку у вас Windows, то must-have для крутого разработчика - засорить реестр, контекстное меню и панель быстрого запуска.
Некоторые особо продвинутые ещё умудряются свои службы встроить под системным пользователем (якобы анти-читы, драйвера и в таком духе, но мы то знаем правду...).
Временные файлы лучше хранить в специальном каталоге для временных файлов. Но успешные компании предпочитают создавать свои скрыте файлы/каталоги без права пользователю на удаление. Некоторые гении предпочитают вовсе не хранить временные файлы, а каждый раз закачивать их из интернета (не зря же придумали кеш). Ещё лучше - выдавать ошибку без подключения к интернету, а весь интерфейс сделать удалённым через какой-нибудь electron.
Ну и конечно же всё остальное встраивается в exe, а сам exe шифруется. А то мало ли кто-то захочет иконку поменять без спроса или видео автозапуска удалит.