На самом деле, точно потребуется линейная алгебра (работа с векторами и матрицами), немного простой тригонометрии и немного простой школьной физики. Если хотите разрабатывать собственный AI в игре, то конечные автоматы, алгоритмы (анализ сложности пригодится тут). Какие-то сверхсложные вещи вряд ли пригодятся, если вы не хотите, например, "изобретать" собственную воду в игре - тогда вам понадобится уже высшая математика (дифференциальные уравнения, уравнения математической физики), геометрия.