Можно сделать через authorized_keys.
Заводим специального пользователя, ему в ~/.ssh/authorized_keys добавляем ключи всех клиентов.
Напротив каждого ключа можно прописать дополнительные параметры ssh, в том числе есть параметр command, который принудительно запускает команду при авторизации по этому ключу, командой делаем старт локальной ssh-сессии.
Получается что-то вроде:
command="ssh 10.0.1.1" ssh-rsa AAA...A+p1 client1
command="ssh 10.0.1.2" ssh-rsa AAA...A+p1 client2
...
После чего все клиенты просто соединяются с основным сервером на его обычный порт.
С авторизацией на самих внутренних устройствах возможны варианты, например, private-ключи для авторизации на них можно выложить на основном сервере и указывать через параметр -i в команде.