Это либо брак железа, либо драйвер на видеокарту не допилен, либо игра просто криво сделана (или возможно пиратка/репак кривой) - если игре нужно больше видеопамяти чем есть у видеокарты, дополнительно резервируется часть оперативной памяти и ничего не крашится/не ломается/не выключается, просто фпс просядет и могут появляться подлагивания. Установите свежие драйвера на видеокарту, возможно в них это уже исправлено.
По поводу 6гб видеопамяти это они на бумаге столько и в рекламе, на деле возможно куда меньше, не обращайте внимания, это нормально. Стоит только вспомнить GTX 970 с её реальными 3.5 гб вместо 4гб.
Снова ответ в комментах к комменту.
Незачем трогать файл подкачки - у вас современное железо.