Хорошему ml-специалисту необходимо знать на отлично школьную (точнее, физ-мат-лицеевскую) программу по математике и информатике. Ну, и очень желательно программу первых двух курсов стандартного матфака хотя бы на четверочку. Для ML нужна конкретная математика: теория множеств, мат. логика, системы счислений, основы теории чисел, комбинаторика, графы, теор. вероятностей, мат. статистика, матан (в R^n), линейная алгебра, аналитическая геометрия, вариационное исчисление. Достаточно знать конкретные вещи.