Самым простым, безусловно является
dsh, он туп и надежен, как угол дома.
Более сложными, но более фунциональными, является всяческие системы оркестровки, типа указанных выше ансибля, соли и прочих пуппетов.
Смотрите что вам нужно.
Ну то есть вот напрямую ваша задача с dsh'ем решается ровно одной командой, если ключ пользователя предварительно разложен на машины. С ансиблом надо написать сценарий для плэйбука, то есть чуть больше времени. Но, при этом, если вам этими машинами нужно постоянно управлять, то однажды описав плэйбук для них, что там должно стоять, какие пользователи должны быть и прочее вы сможете рулить ими одной командой.
Выбирайте сами, что вам нужно.