Они точно не сворачиваются в трей? ОЗУ достаточно и swap не отключен?

Приложения могут убиваться OOM killer, чтобы не допустить полного забивания ОЗУ, которое приведёт к зависанию системы.

Godot Engine 3
Corona Engine

Windows стремительно теряет актуальность, поэтому заостряться на этой ОС занятие бесперспективное. Самым простым вариантом в сложившейся ситуации будет использовать две ОС одновременно. Можно установить на физическое оборудование или на виртуальную машину. Второй вариант более предпочтителен для Windows в виду её крайней небезопасности и активном вмешательстве в конфигурацию оборудования, что может привести к сбоям в Linux (нарушение работы подключения к интернету, сильное замедление работы сети из-за энергосберегающих режимов Windows и прочие неприятные вещи). Прелесть виртуализации в очень высокой гибкости и безопасности за счёт изоляции. Можно будет смело "мучить" гостевую ОС, предварительно сделав резервную копию.

Стоит изучить основы PBR (физически корректный рендер). Здесь неплохая подборка материалов: noostyche.ru/blog/2016/08/22/osnovy_po_fizicheski_...
Без понимания принципов PBR ничего не выйдет совершенно.

Сейчас текстурирование делается сразу по модели посредством smart material, "набивание" текстуры методом композинга в том же Photoshop устарело и применяется всё реже.
Для текстурирования по модели применяются: Blender, 3D Coat, Substance Painter и Designer. Наиболее популярной является связка Substance Painter и Designer, программы можно довольно дёшево приобрести в Steam.