Если тебе интересна именно разработка игр (там не только AI на математике строится, но и графика, и звук, и игровая механика), то лучше начать и развивать свой проект, благо возможностей сейчас для этого полно - это и Greenlight в Steam, и конкурсы от издателей + как минимум 3 коммерческих движка в свободном доступе: CryEngine 4 (вроде подписка стоила немного на Steam + royalty-отчисления, но порог вхождения очень высокий), Unity3D (очень простой движок, низкий порог вхождения, но подписка для коммерческой разработки стоит конских денег, которые начинающий разработчик наврядли потянет), Unreal Engine 4 (если знаешь основы C++ и ООП, то порог вхождения будет даже ниже, чем в Unity3D + только royalty-отчисления, а там глядишь и свой движок напишешь - там как минимум нужны тригонометрия, линейная алгебра, аналитическая геометрия, матанализ, сферическая геометрия Гамильтона и теория функций комплексной переменной, численные и оптимизационные методы). И, кстати, как сказали выше, что AI не существует. AI - это суперпозиция оптимизационныйх и численных методов, математической статистики и дискретной математики