При прочих равных, самая простая математика - для самых простых игр.
То есть, для текстовой rpg вам понадобятся азы дискретной алгебры (школьный курс, не более).
Для статичной 2D - освежите в памяти декартову систему координат и площади прямоугольников.
А вот для 2D-экшена вам уже нужна тригонометрия, хотя бы теорема Пифагора.
Дерзайте!