Так, ну для начала автор - вам нужно как минимум исключить софт часть.
Если вам все советы выше не помогли - то чистая винда, и не LTSC, а обычная.
Не ставите НИКАКОГО софта кроме драйверов и игры, и тестите.
Все в порядке - ну я думаю сами понимаете что нужно делать.
Так же не совсем понятно что за игра, но это не столь важно, самый вероятный источник проблемы - это память.
И на самом деле вам ОЧЕНЬ легко ее исключить - выкидывайте 2 плашки, проверяйте работоспобность игры.
ОЧЕНЬ сильно на ошибки по памяти похоже, причем мем тест вам их не выловит(во первых с каким пресетом вы тестируете, во вторых он проверяет стабильность в первую очередь плашек памяти, а при 4 плашках весь вопрос в контролере памяти проца, для тестирования этого подходит например y cruncher vcst/n64, с вашим процом правда вы там либо синьку словите либо крайне жесткий троттлинг, поскольку брать воздух под этот проц - это настолько тупое решение, насколько это вообще возможно.)
Ну и главное почему мемтест может не выдавать ошибки - это условия, у вас воздушный кулер, и 4090, 4 плашки которые стоят впритык к друг другу, они сами по себе греются - а у вас их дополнительно греет воздухом, который выходит из 4090, там как раз с обратной стороны бекплейта вырез под продувку, и он у вас по идее находится прямо под оперативной памятью, и туда хреначит горячим воздухом.
В общем - оставьте 2 плашки и побегайте в игре, тоже самое - чистая винда, а там уже по результатам.
+ для тестов уберите андервольт.