Если я правильно вас понял, то на RB260GS в разделе vlan вам следует установить значения:
для sfp: здесь вы обмениваетесь трафиком с RB1100x, поэтому он уже должен быть тэгирован
vlan mode = enabled,
vlan recieve = only tagged (если вы планируете получать не только тегированный трафик - выставьте any)
default vlan id = 1
vlan header = leave as is
для eth1-4:
vlan mode = enabled (также попробуйте strict)
vlan reiceve = only untagged
default vlan id = 4
vlan header = always strip
для eth5:
vlan mode = enabled (также попробуйте strict)
vlan reiceve = only untagged
default vlan id = 5
vlan header = always strip
В разделе vlans установите:
vlan4:
spf - leave as is
eth1-4 add if missing (неточно)
eth5 - not a member
vlan5:
spf - leave as is
eth1-4 - not a member
eth5 - add if missing(неточно)
Что вы в итоге получите, если я правильно понял документацию на свитч: порты 1-4 будут принимать нетегированный трафик, давать тег 4 влана и отправлять на коммутацию, порт 5 будет делать то же самое для влан 5, а sfp будет пропускать через себя весь тегированный трафик. У меня есть некоторые подозрения касательно коммутации кадров, но ничего по этому поводу я не нашёл в викии.
Для RB1100x (который, как я понял, управляется RouterOS) переместитесь в раздел /interface ethernet switch port:
set 2 vlan-mode = fallback
set 3 vlan-mode = fallback
set 4 vlan-mode = fallback
set 5 vlan-mode = fallback
В это режиме все указанные порты rb1100x будут просто передавать тегированный трафик далее, не внося изменений. Как я понял, на портах 2,3 и 5 у вас продолжаются вланы. Если же оттуда тоже приходит нетегированный трафик, то
set X vlan-mode=secure default-vlan-id=Y vlan-header=always-strip, где Х и Y это номер порта и влан-тег соответственно. Таким образом приходящий трафик будет тегироваться, а с исходящего - сниматься теги.
В разделе /interface ethernet switch vlan:
add vlan-id=4 ports=p2,p3,p4,switchX, switch=switchX
add vlan-id=5 ports=p5,p4,switchX, switch=switchX
Здесь вы задаёте "проброс" вланов через коммутатор. Переводя на русский: теперь влан4 сможет ходить по портам 2,3,4 через чип коммутации switchX и то же самое для влан5. Обратите внимание, что switchX - это не точно название вашего чипа коммутации, содержащееся в нотации RouterOS.
Надеюсь ответ хотя бы направит вас в нужную сторону.