На 25/50/100, если стоимость аренды помещения дорогая, то нужно смотреть в сторону блейд решений.
Например при использовании E серии IBM (
www-03.ibm.com/systems/ru/bladecenter/hardware/chassis/ )
В стандартную стойку (42 юнита) войдёт 6 шасси, по 14 «лезвий» в каждом, и того 84 «сервера».
Если же наоборот, аренда дешевая, то нужно смотреть в сторону самосборного варианта, типа того что у гугла.