К сожалению, не будет работать дискретная видеокарта если монитор подключен к встроенной. Последние топовые видеокарты выпускают с поддержкой CrossFire, это значит что можно вставить две и более видеокарты и они будут работать в режиме распределенной нагрузки без дополнительных драйверов переключателей и шаманства. Соответственно сколько видеовыходом есть в видеокартах столько и мониторов можно подключить.
То что указано на картинке Asus RT-N66U это, если я не ошибаюсь, выделение отдельно порта пот приставку. Можно попробовать Internet VID 5 и LAN port 4 VID 5, потом включится в 4 порт и проверить Если не заработает то возможно 5 vlan был для телефонии, тогда соответственно следует указать VID 10 в обоих полях. Все зависит от того как это самое iptv отдает вам провайдер, может быть достаточно включить IGMP Snooping что бы вы спокойно могли смотреть iptv на ПК например через VLC плеер.
Кстати его нужно включить (IGMP Snooping).