"Kernel bypass" network adapter — что собой представляет эта технология?

Question

[Eddik]

Здравствуйте. Необходимо сократить latency системы на уровне обработки TCP/UDP пакетов. Для решения этой задачи, как мне стало известно, используется сетевые адаптеры с технологией "kernel bypass", когда драйвер сетевой карты работает напрямую с приложением в обход ядра операционной системы. Хотелось бы понять, как это выглядит на практике? В самом приложении требуется реализовывать поддержку технологии, или же драйвер карты сам будет определять какому приложению следует отдать приоритет ядра ОС? Есть ли проблема с драйверами для различных ОС? Какие побочные проблемы можно ожидать?

Answer 1

[athacker]

man netmap, например. Оно как раз примерно для этих целей и используется.

Answer 2

[Владимир Дубровин]

"Kernel bypass" может относиться к двум достаточно разным подходам: использование специальных ASIC на которые перекладывается задача обработки пакетов, например фильтрация или маршрутизация, или технологии, когда обработка сетевых пакетов полностью выносится в userspace. В любом случае, помимо аппаратной поддержки и/или специализированного оборудования, требуется поддержка технологии внутри приложения, причем во втором случае очень существенная, вплоть до реализации собственного стека TCP/IP, потому что все это идет мимо системного стека. Т.е. вы должны понимать, что вы будете получать "канальный" трафик, и работать примерно как через pcap-библиотеки.

Comments

[Eddik]

Производители адаптеров Mellanox предлагают собственный TCP-стек с поддержкой всех популярных ОС "for Socket-Based Applications ". Про их изобретения можете что нибуть рассказать?

[Владимир Дубровин]

Eddik: нет, ничего не могу сказать. Но в целом, чем больше уровней вы накрутите - тем меньше будет выигрыш, т.к. фактически придете к тому же самому функционалу, что реализован в ядре и вряд ли он будет сильно быстрей работать. Если поверх юзерспейс-стека вы поднимете, например, интерфейс для быстрого сетевого аналога мемкеша - то есть шанс, что-то выиграете. А если накрутите веб-сервер со скриптами - то вряд ли заметите разницу. Возможно вам надо смотреть не в сторону kernel bypass, а наоборот унести что-то в ядро, например через sendfile() / splice().

[Eddik]

Владимир Дубровин: хотелось бы чтоб приложение поверх юзерспейс-стека работало через шаред мемори, а не через сокеты, иначе действительно это все лишено смысла, нагрузка на файловую систему не предполагается.