https://www.softsalad.ru/articles/instructions/how...
Итак начнем с основ. Программы которые содержат 1 exe как правило очень простые. Что то более сложное требует зависимостей и настроек.
Поэтому появились инсталяторы, которые устанавливают программу , вносят изменения в систему и делают еще кучу дел.
До определенного момента это работало, потом появились сторы и репозитории ПО.
Для пользователя это удобно не нужно знать тысячу сайтов просто ищешь программу в одном месте.
Выше приведенные вами форматы это по сути архивы ZIP внутри которых соблюдается определенная структура и находятся исполнимые файлы, зависимости и инструкции по установке.