Учебник по математике для 5-11 класса называется, потом матан хотя бы на уровне 1 триместра универа. А потом можно нормальное что-то читать. В ии, маш обучении и тд (конечно для их изучения, а не просто использования) огромное количество математики, особенно мат анализа пределы, интегралы и всякое такое. Фактически все книги рассказывают как на основе математики опытным путем открыли различные алгоритмы и дальше их описание.