Вариантов может быть миллион. Включая стандартный косяк быстрых матриц при отображении сжатого видео.
Но первое что приходит на ум:
В играх работает дискретная графика, а вот при просмотре видео скорее всего ноут переключается на интегрированный чип.
Следовательно разница из за вывода изображения с разных источников. Есть ли в ноуте возможность принудительно включить только дискретную графику и проверить с ней в тех же режимах.
Попробовать подключить внешний монитор и проиграть видео. Если на внешнем норм, то проблема в матрице или драйвере матрицы. Найти драйвер экрана или смириться.
Для начала эти варианты можно рассмотреть