Нет никакой разницы - конфиг(и) nginx держит в ОЗУ.
Могут только при старте nginx быть накладные расходы на считывание из 10 тысяч файлов вместо одного.
Правильно - отдельный .conf файл каждому хосту.
чудес не бывает. если редиректит, значит где-то есть редирект. Я вижу 4 варианта:
1. осталась инфа в кеше браузера.
2. редирект в конфиге nginx
3. редирект в конфиге backend - например apache, если он есть.
4. редирект в коде сайта.
Оставить nginx в качестве фронтенда, а apache перевести бекендом и проксировать нужный трафик из nginx на апача.
А SSL сертификаты они универсальные - их можно использовать везде после подгонки форматов.
Ключ -A добавляет правило в конец цепочки, ключ -I в начало. Оперируйте ими, чтобы добавить правило в правильное место. Если пакет подпадает под первое правило, остальными он уже не обрабатывается. Для просмотра правил используйте iptables -nL