1. Сначала настройте доступ в инет, если по доменному имени не пингуется, то не правильно настроены DNS серверы.
2. Должен быть настроен источник сторонних пакетов именно для вашей платформы.
3. Когда два начальных пункта выполнены, делаете opkg update, чтобы обновить список доступных пакетов.
4. Ставите нужный пакет opkg install ....
Есть также второй вариант, скачиваете уже готовый нужный вам iptables-mod-extra, и устанавливаете его из папки, куда скачали, например opkg install /tmp/iptables-mod-extra.ipk но если есть зависимости, их тоже надо загрузить.