Ремарки.
1. Xeon E5-2640 или 2660 будут оптимальнее, а 2640 и дешевле в 2 раза.
e5-2xxx в 4х процессорном режиме не работают, там нужны 4ххх.
2. GPU: Nvidia Tesla K80 - не уверен что 2 штука влезут в 1U.
По оптимальности лучше брать titan black или titan z, если не нужна пожизненная гарантия (все равно устареют через 3-4 года). Если нужна только одинарная точность для числодробилки - titan x отличное решение.
3. Зачем ssd 250? Для системы хватит 40-60ГБ, для данных лучше внешнее хранилище. При 128ГБ памяти, всегда можно откусить 100ГБ под быстрый диск если что.