Евгений

https://developer.mozilla.org/ru/docs/Web/HTTP/Sta...
503, как правило, означает, что сервер/серверы к которым должен быть переадресован запрос, отсутствуют.
Если вы получаете этот ответ от nginx (смотрим логи) - значит ваш сайт на апаче валит хелсчеки или каким-то другим образом недоступен для nginx.
Если вы получаете этот ответ от сайта на apache - возможно, в коде есть нечто, что ожидает ответа от удаленного сервера и по той же причине генерирует 503 ошибку.

ткну пальцем в небо:
когда вы запускали (руками) инстанс - просто прокликали все next next next и по умолчанию добавилось правило launch-wizard-...... в которое есть правило для ssh(и оно работает, иначе как бы вы поставили nginx)
sg которую вы демонстрируете - это default security group. То что она default - не означает что она ассоциирована с вашим инстансом. добавьте эту sg к вашему инстансу. Это раз
Два: то что вы открыли порт в security group не означает что он открыт на самом сервере. проверьте правила внутреннего файрвола
И вообще, сначала завалидируйте, что curl с localhost на самом инстансе отдает вам контент вашего сайта на том порту который вы ожидаете - может быть там приложение и не работает вовсе а вы чего то ждете