В такой постановке задача в принципе не решается.
Во-первых, nginx это http/mail сервер и проксировать произвольный протокол он не умеет. (Возможно кто-то написал модуль для балансировки MySQL, но это всё равно ещё один частный случай протокола, а не любой протокол).
Во-вторых, понятие домена есть только в http, а в том же ssh клиент подключается по паре IP:порт и никаких дополнительных данных не передаёт.
В-третьих, а зачем всё это? Обычно достаточно проксирования http (тут нормально работает определение по доменам) и проброс ssh с разделением по портам.
