Карта не самая мощная, включи мониторинг во время игры(температура, частоты, загрузка карты) и постарайся отследить на каком моменте появляются артефакты. Возможно перегрев
Покупаешь хороший кабель HDMI 2.0, подсоединяешь к монитору, выставляешь необходимую герцовку в настройках Nvidia Control Panel (если сама не установилась на максимальную) и всё должно работать. Ещё и FreeSync возможно сможешь включить