как вариант - отдельный маршрутизатор на линуксе (можно готовый, Zential например), возможности стремятся к бесконечности, материалов в сети тьма.
в цену Керио Контрол, например, вполне поместится аппаратный роутер микротик или недорогой системник под линукс.