1. Не бывает неуправляемых маршрутизаторов.
Наверное, имелось ввиду коммутаторы.
2. Как строить Mac-based vlan:
https://nag.wiki/plugins/servlet/mobile?contentId=...
Но в соответствующий vlan переводится порт коммутатора. Соответственно все оборудование на данном порту должно быть одного типа (камеры или нет). Тагированный трафик, иногда, проходит нормально через неуправляемых коммутаторы, но в конечной точке все равно должно стоять управляемые оборудование, чтобы сделать порт нетагированным.
3. Непонятна задача, которую решаете. Если задача перевести камеры в отдельную ip-сеть, это можно сделать и на одном L2-сегменте (хотя и неправильно).
Общий вывод: просто так - ничего не выйдет. Нужна карта подключений. Может, путем оптимизаций, и получится решить задачу.