но они не встали
Этого не достаточно для того, чтобы вам хоть чем-то помочь.
А в общем очень похоже на повреждение видеочипа во время замены термопасты. В 2D режиме он работает нормально, поскольку используется далеко не вся площадь кристалла, а как только пытаетесь получить от него большего то возникают ошибки.
Для проверки можете в актуальной версии Ubuntu (17.10) запустить какую-то достаточно мощную игрушку из того же Steam (не что-то простое казуальное) и по идее у вас тоже будут проблемы. Очень сомневаюсь что дело в ОС.