Есть небольшая сеть (10-15 машин). Один из них, видеосервер, широковещательно очень сильно флудит.
Что это значит? В чем это проявляется? Мигают светодиоды на коммутаторах? Нарушается работоспособность сети? Почему вы считаете, что речь идет о широковещательном "шторме"?
В чём может быть проблема
Какая проблема? Опишите конкретнее.
Вообще говоря, в случае использования неуправляемых (что, как правило, автоматически означает отсутствие "интеллектуальных" нюансов вроде igmp snooping) многоадресный (мультикаст) трафик обрабатывается так же, как и широковещательный (броадкаст). Поэтому стоит задуматься о применении управляемых коммутаторов (хотя точнее можно будет советовать, получив дамп трафика и схему сети). Решить проблему "чрезмерного" многоадресного трафика (исходящего на порты, не нуждающиеся в нем) при помощи управляемых коммутаторов можно при помощи:
1) igmp snooping + igmp [snooping] querier
2) статической записи igmp snooping
3) статической записи мультикастового MAC-адреса, соответствующего мультикастовой группе.
Наиболее простой, понятный и рекомендуемый вариант - первый.
и как её быстро обнаружить?
Подсоединяете ноутбук/компьютер в свободный порт коммутатора. Запускаете wireshark/tshark/tcpdump, сохраняете дамп трафика, анализируете его (например, в wireshark - Statistics -> Endpoints), делаете выводы.