Кабель от монитора или сам монитор. Видеокарта же рендерит все кадры и далее они передаются на монитор. Перепроверь их, если есть возможность испробуй другие. Поиграйся с настройками монитора, как в его собственных настройках, так и в панели nvidia. Попробуй создать свою настройку для разрешения с нужными параметрами, несмотря на то, что такие уже есть. Попробуй поставить не 60гц, а 99.9гц. Проверяй, экспериментируй.
А может у тебя картинка не фризит, а эффект лишь последствия задержек ввода? Может, если не двигать мышь и не трогать клавиатуру, то тормозов нет, это заметно по движущимся объектам, плавные они ли рывками.