Возможно вы устанавливаете память с большим объёмом, чем допускается для вашей материнской платы. Смотрите инструкцию к плате, там скорее всего будет указано сколько максимум памяти можно установить, и в какие слоты.
Совместимость имеют материнская плата (bios) и видеокарта (модель видеокарты может требовать обновления bios или не поддерживается им), совместимость процессора и видеокарты значения не имеют.