Вообще говоря, вопрос довольно общий, если вы его уточните (что и с какой целью вам необходимо изучить), будет проще ответить.
По поводу безопасности, на мой взгляд, сначала следует изучить устройство самих сетей/протоколов, и лишь затем, как производную от этого, аспекты безопасности.
Пара универсальных рекомендаций:
1) Wendell Odom. Книги курса CCNA.
2) Jeff Doyle. Routing TCP/IP. (хотя бы первые главы четыре тома I)
3) Stevens. TCP/IP Illustrated, том I. В томе II рассказывается, в том числе и о программировании (имплементации) протоколов.
4) Pearlman. Interconnections.
Если опыта немного, то лучше прочесть меньше книг (рекомендую пп. 1,2), но провести больше практических работ.