Олег Цилюрик

когда появляется ноутбук шефа DHCP начинает сбоить, в сетке маршрутизации появляются фантомные клиенты которые выглядят примерно так

А это от ужаса перед грозным шефом! ... DHCP трепещет! ;-)

Все названные вопросы - не главные.
Не так важно чему учиться, какое название придумали специальности, важно - у кого.
Нужно выбирать университет из числа лучших...

Трудно ли найти работу по данным направлениям ?

... вот тогда, если получить хорошее образование, и работу найти по любым направлениям - легко. ;-)

Проблема в том, что упираюсь в скорость 50-60 МиБ/с (500 мегабит/cек) в 1 потоке.
При этом если в 1 поток лью по ftp , то вижу свой клиентский 1 гигабит без напрягов.

Т.е., если я правильно понял, вас расстраивает 2-х кратное относительно скорости физческого канала снижение скорости обмена с совершенно чуждой для Linux и настолько же второстепенной для него файловой системой? ... дожать последние 60-70-80% ?
Как мне кажется, это не настолько сильная потеря скорости, чтобы над ней очень заморачиваться. Конечно, обмен по SMB будет медленнее чем по FTP, в конечном итоге.

Есть ли еще решения для данной задачи?

VNC : TeamViewer
Mikogo

Что хочу получить, так это общее понимание о TCP/IP сетях.

Есть единственная внятная книга по TCP/IP.
Вот она:

Ищите...

Open-mesh
B.A.T.M.A.N. Advanced Documentation Overview

Вопрос серьезный.

Если вам нужно (проверить) самое простое решение - то TOR сеть.

С недавнего времени

В принципе, если у вас DIR-100 подключен на медиаковертор и на волокно (технология PON, так я понимаю?), то проблема может быть и в том, что используемые вами DNS стали не оптимальными, дают большую задержку.
См. DNS Benchmark.
Не знаю что там в Windows, но в Linux устраняет пробемы, и ускоряет отклик до нескольких раз.
Если поймёте принцип - и в Windows разберётесь.

Это то, что вы описали - это в упрощённом виде то, что называют Mesh сети, и одно из самых модных направлений (последних 1-2 лет) для "обвязывания сетями" отелей, мест развлечений и т.п. (особенно за рубежом).

Посмотрите ссылку - там есть целый ряд уже специализированных программных проектов (многие из них бесплатные) для организации подобных сетей (кстати, TpLink wr841 и wr941nd - это как-раз те модели, которые они любят перепрошивать под эти цели).

Так вот вопрос: как сделать так, чтобы я принимал ровно столько, сколько данных послал клиент, без какого-либо склеивания.

Если это TCP (указывать надо!), то там нет понятия "пакет", а если нужно - то вы должны организовывать сообщение сами, оно должно быть самоопределённое:
- либо содержать втначале поле длины, а затем само сообщение (как POST)
- либо заканчиваться предопределённым ограничителем (обычно "\n\n")
Детали см. Сетевое программирование в Linux

В меню, где сетевые подключения нету пункта

Трудно понять что там за меню вы рассматирваете, но похоже, что это Network Manager...
Прежде чем ним устанавливать соединение, вы должны быть уверены, что:
- ваше устройство вообще видится:

$ ls usb
...
$ dmesg | tail -n100 | grep usb
...

- оно переключилось из устройства инсталляционного CD-ROM в режим AT модема:

$ ls /dev//dev/ttyU*
...

$ ls /dev/ttyACM*
...

Всё очень зависит от конкретного типа модема, который вы не указываете.

А дальше см. Установка и настройка USB-модемов

P.S. Почти все модемы можно заставить работать ... но будьте готовы к тому, что есть ограниченное число модемов, которые вы не сможете заставить работать в Linux.

Можете подсказать, как вообще эффективнее всего изучить сети?

Сеть TCP/IP нужно изучать по книгам Р. Стивенса, начиная с:
У. Стивенс, Протоколы TCP/IP. Практическое руководство

Или новое издание:

TCP/IP Illustrated, Volume 1: The Protocols, 2nd Edition
W. Richard Stevens, Kevin R. Fall
May 05, 2012

Я в принципе знаком с OSI моделью, знаю различие протоколов, и вообще, как устроен интернет, но мне нужно что-то более практичное, например, знать как и где эти протоколы использовать, как вообще писать сетевые приложения, хотя бы самые примитивные.

1. Забыть про модель OSI: реальная сеть TCP/IP не вписывается в модель OSI ... точнее, модель OSI не соответствует реальной сети TCP/IP.
2. Изучать сеть только в Linux, про Windows забыть как страшный сон!
3. Установить VirtualBox + насоздавать виртуальных машин и из них строить сеть (как здесь советовали).
4. Сетевое программирование в Linux.

Никакой публичный DNS не может знать и не может разрешать имена хостов ваше локальной сети.
Хотите иметь разрешение локальных имён - запускайте свой собственный DNS в локальной сети (который должен работать согласованно с DHCP), можно так: DNS сервер.