По нейронным сетям рекомендую курс на курсере от Jeofrey Hinton и книгу Ian Goodfellow Deep Learning
https://goodfeli.github.io/dlbook/
Если будут проблемы с пониманием содержания книги/курса, можно предварительно пройти курс по машинному обучению и линейной алгебре. Немного многомерного матана тоже не повредит. И курс по оптимизации тоже, но это по желанию
