Может squid со всякими там отчетами в lightsquid, sarg и им подобными?
Можно покурить немного IPTABLES, промаркировать пакеты, и, используя сенсор fprobe в купе с netflow, замутить свое, как например этот парень
habrahabr.ru/post/232719
Здесь подробнее
http://help.ubuntu.ru/wiki/мониторинг_трафика
Еще посмотрите на что-нибудь из этого:
iftop, iptraf, ntop, vnStat, Bandwidthd, darkstats
