AAA-проекты не пишут математики. Вам нужно знание sdk и умение программировать. А подкруткой физики, освещением, моделями и прочим займётся команда специальных людей в этом проекте. Равно как и сценарием, локациями, звуком... вплоть до того, что затюнят движок под нужды проекта.
Но всё же, если отвечать по существу: в этих движках 99% физики уже реализовано и вам математику не нужно знать вообще. Ну разве что на уровне понимания координат/векторов и всякого такого. Если нужно что-то сверх того, то вам необходимо знать математику очень хорошо. И не просто, а с умением разбираться или составлять нужные алгоритмы для машины.
