Массовое обновление конфигов обычно делается средствами удаленного развертывания - Chef, Puppet. Делать это через ssh, да еще при логине рутом... Если прям нужно именно так, то я бы сделал немного по-другому - создал на каждом серваке юзера, обычного юзера, настроил аутентификацию по ключу, дал ему через sudo права на выполнение некоего скрипта... Механика выходит довольно сложная, Puppet наверное проще будет настроить :)