Курс к сожалению возможности просмотреть нет, однако могу предположить, что активно используется скорее всего математическая статистика из теории вероятностей, хорошей практической книгой по этому разделу будет труд Ивченко и Медведева
Введение в математическую статистику и задачники тех же авторов
Задачи с решениями по математической статистике и
Теория вероятностей и математическая статистика в ....
По основному курсу теории вероятностей могу посоветовать тоненькую книжечку от ее отца-основателя (точнее ее современного вида) Колмогорова
Основные понятия теории вероятностей и книгу еще одного корифея Советской школы тервера Гнеденко
Курс теории вероятностей.
По алгебраической части могу лишь посоветовать опять же книгу Колмогорова
Элементы теории функций и функционального анализа. В ней сможете найти, во-первых, описание основных алгебраических структур, во-вторых, примеры построения метрических пространств и собственно метрик, в-третьих, познакомитесь с топологическими пространствами и введением в построение топологий. Это все должно уложиться в книге примерно до 5-6 главы, далее пойдут вещи, связанные с построением обобщенного интеграла по мере и собственно теоретическим обоснованием современной теории вероятностей. А так в компьютерном зрении скорее всего, как раз активно эксплуатируются всевозможные метрики для доказательства сходимости алгоритмов и топологии, там где метрику ввести не удается, для этих же целей. Так что как раз первые главы этой книги будут Вам полезны.
Ну а в общем в процессе изучения математики, я думаю, основной упор стоит делать на алгебру. Все идет от туда. Да и для программирования будет польза.
Кроме того могу рекомендовать отличную книжку Кнута Дональда, не тот его трехтомник, а
Конкретная математика. Тем более о ней очень лестно отзывался наш выдающийся математик Арнольд. Найдете в ней много чего интересного.