Если только начинаешь и нет никакого понимания конкретной специализации, то прочитай Святослава Куликова и не парься - заучивать наизусть не надо, надо понять в чем вообще прикол то этого самого тестирования. Потому что работодатель смотрит на опыт работы, а не количество названий технологий и программ в стеке - всё в курсе про количество курсов для подготовки, где три часа посидели и бац, вы знаете технологию.

А дальше всё зависит от специфики чего конкретно ты там будешь качество контролировать. Я думаю wireshark, запросы от python к api, "как в жире баги заводить" и т.д. тебе на курсах донесут. И что на курсах вас через какой-нибудь манкей-джоб тоже прогонят для каких-нибудь продуктов.

Для начала нужно понять что конкретно собрались реализовать в проекте конкретно вы. Векторная алгебра и тригонометрия для банального перемещения. Матлогика для построения запросов и условий. Теория алгоритмов (конечный автомат) для поведения объектов. Теорвер и матстат в принципе для всего геймдизайна.

Сначала всё выучить, а потом прийти и всё сделать не получится. Выбор задачи и получение необходимых для решения задачи знаний идут последовательно. То есть задача требует знания определенных формул -> просмотр области -> выбор учебника, который считают хорошим для изучения этих формул. То есть не просто идти учебник Гмурмана читать (хотя лишним не будет), а сначала понять нужна тебе формула Бернулли или нет.

По моему мнению, в геймдеве у людей порой не хватает именно понимания как вообще определить что за событие произойдет и из какого состояния в какое объекты должны переходить. Так что для начал теорвер конечные автоматы.

Вот пример конечного автомата https://gamedevelopment.tutsplus.com/tutorials/fin...