Vitaly Karasik

Kubernetes - это оркестрация для докер, помимо поддержания нужного кол-ва контейнеров K8S умеет деплоить разными способами, делать auto-scaling несколькими способами, и т.д.
Я бы посоветовал начать с Kubernetes.
Rancher в моем понимании это "надстройка" над Kubernetes, которая должна облегчить deploy / upgrades, работать с multi-cluster configuration и в целом создать "более умный" API.

Мой ответ - зависит от того что вам нужно - ставить один редкоменяющийся image на сотню компьютеров каждый день или для каждой из сотни инсталляций нужно кастомизировать систему.
В первом случае - можно сделать image и просто ставить его через PXE, во втором - трудно обойтись без Ansible/Chef/Puppet.
Дополнительно - Vagrant, Foreman.