Dum_spiro_spero

Справочник Бронштейн-Семендяев - отличный ... УЧЕБНИК.

Если хотите развиваться - лучше очное в хорошем месте.
а) Там есть нормальная программа обучения и специально обученные люди которые вам подкидывают нужные задания в нужное время.
б) Можете общаться с преподавателями и студентами - это и знания и наработка связей.
В изучении математики - основной вопрос будет - "а зачем мне это нужно".
Увы - преподаватели математики обычно не очень-то прикладники. Тут нужно будет проявить творчество и приложить мозги, чтобы приложить полученные знания.

"Интересуют области программирование графики (линейную алгебра учу (60%)) и иску́сственного интеллекта."
Ну все еще может измениться. )) По книжкам - гугл+тостер - здесь куча рекомендаций уже была.
Про статистику написали правильно.
Еще от себя добавлю - теория обработки сигналов - всякие фурье, вейвлеты, и т.п...
Численные методы - разные, от аппроксимаций до диффуров и интегралов. Особенность в чем - когда переносите аналитические методы на компьютер - всё становится существенно по другому.
И самое главное - решайте задачи!!!

У каждой системы свои плюсы/минусы. Скажу про Maple.
На Maple удобно делать сложные аналитические преобразования - интегралы, производные, переводы в разные системы координат, векторные поля, решать аналитически диффуры, и т. п... так же результаты преобразований можно сразу перевести в Си-шный текст и вставить в свою программу. Я использую постоянно в научной работе.
По синтксису он близок именно к языкам программирования - в отличии от Маткада например.
Матлаб - там другая идея, один из плюсов - библиотеки Матлаба можно использовать например в Borland C++.
Про "Математику" не скажу - но друзья из МГУ её любят тоже за аналитику.

Постановка слишком общая.
Какие задачи кстати? По физике? По математике? По жизни?
" совсем плохо ... ориентируюсь в новых, ранее незнакомых задачах".
Ну так это у всех так.
На мой взгляд - надо развиваться ВШИРЬ. С эрудицией приходит возможность связывать задачи из разных областей и находить аналогии.
В качестве рецепта могу порекомендовать бессистемное чтение журнала "Квант".

Поставьте задачи. Нельзя просто "начать разбираться" - должны быть какие-то задачи для которых вам нужна математика, либо задачи в чистой математике - но вряд ли вы бы спрашивали тогда здесь.

У всех по разному. Я использую С/С++, дружественные немцы - Fortran. Решаем диффуры.

курсовик по предмету "мат.моделирование".
Вообще нормальные курсовики не пишут, а делают. Т.е. вам надо будет что-то посчитать и промоделировать.
1. Надо определиться с темой. Диффуры решать - это одно, вероятности считать - другое, ну и т.д... Математика она развесистая же - как клюква. Что преподаватель говорит?
2. Какой у вас сейчас уровень? Что такое производная и зачем она нужна - понимаете? А что такое интеграл? )))
Если да - то можно двигаться дальше - Справочник Бронштейна - хорошая вещь для самообразования - и чтобы оглядеть, что вообще есть-было в математике.