Nginx должен отдавать огромные фалы напрямую с диска (даже если это nfs), это не имеет смысла обсуждать. Любая попытка отдавать энджиниксу большой файл чем-то еще (без разницы, чем) приводит к складыванию этого файла на диск во временную папку и отдачи уже оттуда.
Что-то я не пойму, как у вас динамическое сжатие может быстро съесть все ресурсы сервера? Взял страничку на 65кб, размножил её 64 мегабайта одним файлом, замерил скорость: 25 мегабайт в секунду, это 384 исходных странички в секунду. У вас хотя-бы 20 в секунду генерируется?
Хотел ссылку кинуть на похожий вопрос, но я смотрю это ваш вопрос и был :)
Раз за столько времени ответ не нашелся, может быть уже стоит поставить вопрос по другому?
Устанавливаете nginx фронтендом. Отключаете любое сжатие в Апаче, включаете в nginx, задаете порог минимально сжимаемого тела ответа. Все.
Вы хотите купить продукт, о котором никто ничего не слышал, сливающий опнсорсным отечественным разработкам, а потом пару лет задавать себе вопрос «и что бы мне не перейти на нормальный сервер? ах да, я же за этот заплатил»? Нет пути.