Olegok

Рекомендую вводный курс в машинное обучение от Эндрю Ына на курсере: https://www.coursera.org/learn/machine-learning/ho...

Курс предполагает не очень глубокое знание математики от учащегося: для освоения не обязательно знать, что такое предел функции и производная или какие-то понятия из тв и мс. Все алгоритмы рассказываются на пальцах, дается простейшая интуиция на понимание. Единственное - программировать придется в матлабе или октаве, чтобы сдавать задания для оценивания.
С другой стороны, на той же курсере есть специализация от МФТИ/Яндекс, в ней даются все базовые знания по математике, которые понадобятся в ходе курса. Теория относительно неплохо подкрепляется примерами. Код писать надо на пайтоне. Основной минус курса - вы не будете реализовывать никакие алгоритмы, упор идет на применение готовых в библиотеке sklearn (в отличие от того же курса Эндрю Ына).

Отредактировано: забыл добавить, что есть неплохая книга по алгоритмам машинного обучения вообще - www-bcf.usc.edu/~gareth/ISL/. Introduction to statistical learning. Вроде бы считается хорошим выбором для введения в область.

Почти вся математика для нейронных сетей и машинного обучения это ТВ/статистика, линейная алгебра и немного анализа (до частных производных примерно). Полагаю что mathprofi.ru закроет все потребности на начальном этапе - понимание курсов. Если же времени много или предпочитаете узнавать с книг то по тв/мс можно взять "бродский я с статистика вероятность комбинаторика", если по хардкору то двухтомник феллера. Эти книги весьма практичны.
По матанализу можно взять Фихтенгольца, писал он очень понятно, но очень уж объемно.
По линейной я не знаю что посоветовать, общепризнанные советские книги типа кострикина, манина(рекомендованные в списке вопросов ШАД) это просто вынос мозга. Тыртышников Матричный анализ и линейная алгебра говорят неплох. Как альтернатива - курс на степике посвященный ЛА.