Unity3d, довольно просто со всем разобратся, простой воркфлоу. UDK не юзали.
Моделинг — Blender, Maya
Анимация — Maya
Шейдеры — Unity3d Built in shaders
Текстурирование — Создание текстур: Photoshop, GIMP, Mudbox, filter forge, texture maker, готовые текстуры можно накладывать практически в любом редакторе. Для создания развертки UV- UV layout, flatiron и другие.
Редактирование мира — Unity3d + Maya + Blender
Оптимизация — Refactoring, testing, Profiler в Unity3d
Плюс от себя скажу что всегда надо проверять импорт костей, анимации, развертки UV, отображение тех или иных шейдеров на разныл платформах, размеры и битность текстур, так же альфа каналы для создания прозрачных текстур, в моделинге частые ошибки с перевернутым плейном или неправильной топологией полигонов.
Но для начала надо просто делать, ошибки и понимание придут с опытом, если включать голову конечно, обязательно.
