Не знаю насколько мой опыт вам поможет, но мы решали большую нагрузку тремя вещами:
1. nginx
2. несколько бесконечных процессов на python (fastcgi + wsgi chain (flup)). (Процессы могут быть не только на вашем сервере ;-))
3. MySQL table Memory. Раз за какой-то промежуток времени записываются данные в таблицы на диск.
4. вся статика не у нас. (но это нам надо было ради экономии трафика)