Стандартный школьный курс математики и физики, затем стандартный ВУЗовский курс математики и физики - это уже по желанию. В типичных случаях школьного курса будет достаточно. А вот например программирование 3D графики уже требует более глубокого понимания математики и физики - да-да, понимание физики и умение решать физические задачи тоже необходимо (например банальный тетрис - там физика есть, хоть и простая, но есть). Тригонометрия, матрицы, кватернионы, графы, теория вероятности - это все есть и используется в 3D графике. А в играх еще и теории ИИ, поиска путей, а в некоторых случаях и многомерные пространства и не-евклидова геометрия. Ну и остальные разделы математики - уже по ситуации. Например в исследовательских приборах или МК тоже часто встречается специфическая математика и физика, которые надо рассчитывать.