Вот что пишет об этом сам Д. Кнут:
Эта книга написана для читателей самых разных степеней математической подготовки и иску-
шенности, поэтому некоторые упражнения предназначены только для читателей с математическим
уклоном. Если в каком-либо упражнении математические понятия или результаты используются
более широко, чем это необходимо для тех, кого в первую очередь интересует программирование ал-
горитмов, то перед оценкой такого упражнения ставится буква ”М”. Если для решения упражнения
требуется знание высшей математики в большем объеме, чем это дано в настоящей книге, то ста-
вятся буквы ”ВМ”. Пометка ”ВМ” отнюдь не является свидетельством того, что данное упражнение
трудное
Чтобы мягко начать, рекомендую стартовать с его же "Конкретной математики", а уже потом браться за "Искусство программирования". Это позволит подтянуть дела дискретные, вроде комбинаторики.