Два варианта:
1. Блок питания у вас подозрительный. Не буду утверждать, что проблема именно в нём, но доверия он не вызывает.
2. Вообще похоже на перегрев и срабатывание защиты, т.е. проблемы с охлаждением видеокарты.
Попробуйте по максимуму занизить повер-лимит в афтебернере, если поможет - то, с высокой вероятностью - это оно.
Если видеокарта новая - лучше сразу обратиться по гарантии
