Оставить nginx в качестве фронтенда, а apache перевести бекендом и проксировать нужный трафик из nginx на апача.
А SSL сертификаты они универсальные - их можно использовать везде после подгонки форматов.
Ключ -A добавляет правило в конец цепочки, ключ -I в начало. Оперируйте ими, чтобы добавить правило в правильное место. Если пакет подпадает под первое правило, остальными он уже не обрабатывается. Для просмотра правил используйте iptables -nL