Скорее всего не хватает мощности блока питания - если есть мультиметр, то следует измерить напряжения питания, выдаваемые БП как в простое так и под нагрузкой по полной, и особенно по линии 12В, к которой подключена видеокарта, а так же все остальные линии. Если напряжение падает ниже порога - то вам следует менять блок питания. Рекомендуемая мощность - 650-750 Ватт. Если мультиметра нет, то можно сравнить показания встроенных датчиков, показываемых ПО, но там может быть плюс-минус лапоть. Имеет смысл проверить с более мощным БП - ватт на 700.
Какой возраст БП? Они со временем и износом теряют часть мощности.
Таблица допустимых напряжений блока питания стандарта ATX
Линия напряжения
+12В +5В +3.3В +5VSB -12В
Диапазон отклонений
± 5% (± 0.6В) ± 5%(± 0.25В) ± 5%(± 0.165В) ± 5%(± 0.25В) ± 10%(± 1.2В)
Минимальное напряжение
11.4В 4.75В 3.135В 4.75В 10.8В
Максимальное напряжение
12.6В 5.25В 3.665В 5.25В 13.2В