Для начала отключить верт синхр в игре. Убрать ограничения частоты кадров и проверять.
Ну и правильно сказали про перегрев - тоже проверить.
И последний момент - убедиться что Вам точно продали именно эту видяху, а не подделку. Можно определить по количеству шейдеров , частое памяти, чипа И так далей, например в cpu-z посмотреть