Большую часть времени нет, хотя, конечно, это зависит от конкретной игры. Больше всего времени уходит на примитивные операции: передача данных, реакция на события и т. п. Но без знания работы векторов, матриц и кватернионов далеко не уедешь, тот один процент времени, который тратится на математику, обычно тратится на критически важную часть игры, будь это главная механика, управление камерой или персонажем. В целом, без математики прожить можно, но это будет всегда ограничивать в выразительности. Гораздо лучше будет потратить несколько дней на изучение проблемы и получить в своё распоряжение ещё один инструмент, чем копировать чужой код и гадать как он работает.