Ну вот сейчас глядим на OpenX, бывший phpAdsNew, выбор пал скорее по тому, что когда-то писал модуль для nginx, для отдачи баннеров, надеюсь не сильно изменилось и получится завести старый.
Модуль для nginx как указано выше, который кэширует в памяти все необходимое для показа баннеров, кроме графики, обновляет информацию через определенный период, считает кол-во показов, кликов и т.д… Ну и на тестах забивает полностью гигабитный канал (отдает спокойно 5 тысяч в секунду), при этом нагрузка на процессор настолько мизерна, что можно считать погрешностью.
К сожалению данный модуль не является опенсорсным, писался под свои потребности и реализован не весь функционал стандартного модуля.