Высшая математика — это что-то собирательное. Я так понимаю, что высшая — это всё что сверх школьного курса. Для начала надо определиться, для чего это вам надо. Если говорить о неком базовой ликвидации безграмотности, то обязательны: линейная алгебра и матанализ. Причём последний можно немного проредить.
А дальше уже можно специализироваться:
Теория вероятностей, теория игр, статистика — больше для моделирования всяких "жизненных задач" и бигдаты
Теория функция, дифференциальные уравнения — больше для радиоэлектроники, для инженерии
Общая алгебра, теория групп, логика, дифференциальная геометрия — это уже отрыв башки для чистых математиков