Для того, чтобы работать с нейросетями, нужно знать теорию вероятности и линейную алгебру? Или еще какие-то разделы математики нужно знать? Есть ли какой нибудь список задач по математике(на русском желательно), прохождения которого(или наоборот не прохождение) даст понять, что я готов изучать нейронные сети и не буду тупить из-за пробелов в знаниях математики?
Готовится можно вечность - и всегда будут тёмные пятна. Мой совет - начинай! Начинай учиться на собственном практическом опыте - это самый лучший и быстрый способ. Все реальные проблемы в своем образовании увидишь сам по ходу пьесы. А то рискуешь так и остаться бабником-теоретиком :))
Для начала надо посмотреть на формулу суммы взвешенных входов нейрона. Линейная алгебра это представление в виде произведения матриц.
Далее ознакомиться с функциями активации (сигмоиды и другие).
Дальше составить слой из нейронов, а из слоёв сеть.
А для обучения сети немного почитать, что такое оптимизация (экстремум, градиент).