Hint

Во что именно упиралось, так и не понял. Но проблема была решена настройкой keepalive между серверами (было 1000 подключений в секунду от front к back, стало где-то 50). Трафик особо не упал, нагрузка на процессоры не снизилась, но задержка при открытии некоторых новых соединений между серверами пропала. Почему именно она возникала - не знаю. Может в том же OVH какие-то лимиты на оборудовании настроены...

Вы уверены, что в GET должен быть указан протокол http и домен? Никогда с подобным не сталкивался. Домен указан в host (как и требуется), а протокол указан в строке GET. По-моему дело в чем-то другом.

rewrite "^(.*/)([^/]*__)?((big_|sm_)?[a-z\d]+\.(jpg|gif|png))$" $1$3 last;

Подождите. А как сервер узнает, к какому виртуальному хосту клиент будет делать запрос? Эта информация передается в HTTP-заголовке уже после установления соединения.