Т. Сегаран - программируем коллективный разум. Там есть некоторые методы машинного обучения. Сама книжка смесь вэба и Data Mining. Python
В этих двух книгах теория:
Питер Норвиг. Искусственный интеллект: современный подход
Книга П.С. Романов. Основы искусственного интеллекта
Библиотека scikit-learn с реализованными алгоритмами из книг выше. Python
Статья по ней на хабре:
Введение в машинное обучение с помощью Python и Sc...
А также пригодится ( на более поздних этапах )
Козлов М.В., Прохоров А.В. Введение в математическую статистику. — М.: Изд-во МГУ, 1987.
Боровков А.А. Математическая статистика. Оценка параметров, проверка гипотез. — М.: Наука, 1984
Боровков А.А. Математическая статистика. Дополнительные главы. — М.: Наука, 1984.
На ранних этапах желательно знать курс теорвера и матстатики из школы. Что такое вероятность, дисперсия величины и т.д - иногда используются эти понятия. Особенно широко в генетических алгоритмах
P.S. Я сам пока учусь, список от человека, который занимается AI уже давно