Я правильно понимаю, что слетает он без перезагрузки? Потому что в противном случае я бы посоветовал проверить, выставлена ли опция «применять параметры разгона при загрузке системы» в той утилите, которой вы гоните карту.
В пределах одной и той же загрузки разгон может слетать из-за перегрева, либо из-за автоматической перезагрузки видеодрайвера (что тоже обычно происходит из-за перегрева), либо из-за недостатка напряжения на чипе. Попробуйте поднять частоты совсем немного — буквально на несколько МГц; если слетать не будет, значит, в вашей версии разгона карте что-то сильно не понравилось. Запустите какую-нибудь грелку (MSI Kombustor или что-нибудь подобное) и постепенно поднимайте частоту; как только начнёт слетать — так же постепенно поднимайте напряжение и внимательно мониторьте температуру. Если слетает при достижении одной и той же температуры — это перегрев. Если подъём напряжения добавил стабильности, значит, не хватало питания.
И ещё, имейте в виду: если будете гнать карту, велика вероятность, что у вас будет медленнее работать процессор (из-за собственного перегрева и сброса частот) и сильнее греться блок питания (из-за того, что ему нужно больше тока тянуть из розетки) — а это далеко не всегда безопасно. Чрезмерный нагрев видеокарты может привести и к другим забавным бонусам, поскольку в ноутбуке всё расположено очень кучно: быстрее вздуются конденсаторы по всей плате, от нагрева может покоробить пластмассовые детали клавиатуры или оплавить/обжечь что-нибудь выхлопом, ну и т. п. А если вы ещё и кулер с воздуховодом давно (никогда?) не чистили, то тут уж совсем интересно всё будет.