Кроме старого и недостаточно мощного БП, ваши материнка+процессор: "при установке процессора Sandy Bridge, слот будет работать как PCI-E 2.0"
То есть, нет смысла ставить видюху с PCI-E 3.0, она всё равно будет тормозить.
А, не, наоборот: за счет "тормознутости" видюхи на старой материнке и проце, ваш БП наверное со всем справится. Как выше рекомендует
15432 , "подключить через переходники (Molex->8pin) всё же можно", а дальше - смотреть по факту.