Вообще очень похоже на искажение от плохого аналогового разъема, хотя если все правда подключено через hdmi, то дело не в этом. Часто такое бывает при использовании переходников или переходных кабелей.
Так же как я могу подозревать, то карта б.у. после майнинга. А в таком случае дела не очень хороши.
Есть куча вариантов решения:
1) Если карта куплена не с рук, а хотя бы в шаражке, то они обязаны давать минимальную гарантию хотя бы на ремонт. Сфотографируй все документы на карту, запиши на видео состояние карты и ее работу. И с этим пакетом можно спокойно отправлять ее обратно хозяевам на возврат или хотя бы гарантийный ремонт.
2) Можно попробовать протестировать в другом компьютере и/или на другом мониторе.
3) Можно попробовать понизить частоты чипа и памяти мегагерц на сто. Для этого есть шикарная MSI afterburner.
4) Через эту же программу можно попробовать андервольтнуть (понизить напряжение без снижения частот) карту. Советую загуглить. Снижение До 850-900 милливольт не повредит.
5) Возможно карта слишком сильно греется и если ее температуры в простое около 50 градусов, а под нагрузкой больше 75, то стоит задуматься над охлаждением в корпусе. Советую совместить с предыдущим пунктом.
6) Если гарантия на карту закончилась, а починить проблему без рукоприкладства не получилось, то можно попробовать прогреть чип. Обязательно ознакомься с вопросом в интернете. Это можно сделать в домашних условиях, но грамотно. Способ действенный, но за частую временный. Есть шанс, что через месяц два проблема снова проявится.
7) Если надежд уже не осталось — неси старушку в сервис центр. По крайней мере на диагностику. Много денег это не будет стоить.