Начать надо с того, что убрать, если есть все разгоны.
Потом посмотреть, какое паспортное напряжение у памяти - у меня был такой случай, что крутая геймерская память требовала +0.1V на планках, иначе тупо не работала - вот так же висла. Ну и понятно, проверить/выставить тайминги. Ошибки на мемтесте явно указывают на то, что проблема с памятью.