хотел тут написать что проще купить нормальный аппаратный маршрутизатор вроде младших моделей циски, только хотя бы с гигабитным портом и коммутаторы, хотя бы с 1-2 гигабитными портами для аплинков для оконечных портов, а на старом тазике оставить только считалку статистики от маршрутизатора, смысл в прокси как в кеше чем дальше тем больше отпадает, разве что по url'ам фильтровать трафик, если ентерпрайз
а по теме — top, iotop, iperf, да в любом дистрибутиве юникса в репозиториях пакетных менеджеров поищите по performance, tuning, monitoring и получите довольно большой список пакетов на выбор под задачи