Беря свой опыт во внимание, то чистый линукс (CentOS, FreeBSD) самый стабильный в такой работе. Но настраивать мне не удобно.
Самый многофункциональный и который проще всего держать в одной среде это Mikrotik, но тут есть проблемы с привыканием к интерфейс так как он не самый удобный (ИМХО) и есть ЧАСТЫЕ проблемы с безопасностью.
Самый нахваленый моими знакомыми Kerio Control, всё вроде не плохо, но на личном опыте у меня плохие с ним воспоминания о стабильности и так же интерфейс который меня поставил в ступор (обратно ИМХО)