в AWS нет стандартных средств для запрета исходящего EC2 трафика на базе имени хоста. Security Groups в принципе не могут запрещать трафик (только разрешать), NACls работают на уровне TCP.
кроме упомянутых выше iptables у вас есть несколько других вариантов:
1. использовать forward proxy и фильтровать трафик непосредственно на нем (
2. AWS WAF (не уверен на 100%, но в теории фильтрование там есть), но для этого понадобится AWS ELB