Расскажите подробнее, чем вас не устраивает mod_pagespeed. Стоит ли вам советовать альтернативу
https://github.com/pagespeed/ngx_pagespeed Еще есть вариант написать свою процедуру на Perl или Lua и использовать ее для ваших целей работы с файлами.
Я лично не сторонник "на лету"шной оптимизации файлов. Лучше, когда этим занимается отдельный инструмент, а вот Gzip и отдачу вполне можно отдать Nginx :)