Тут проблема скорее всего не в правиле, которое типа такого:
iptables -t nat -A OUTPUT -p tcp --dport 443 -j DNAT --to-destination 127.0.0.1:443
Тут вероятно проблема в том, что
обязательно на вашем веб сервере, куда идет редирект должен быть включен и настроен HTTPS.