Берите
https://github.com/phusion/baseimage-docker - будет вам и патченная init система для docker, и много чего другого, документация там же.
А вообще идеально - запускать одно приложение в одном контейнере, и хранить данные в data-only контейнере.
Я начал использовать Docker, и получился аналог кучи виртуалок, которые обновлять задолбешся.
В итоге написал вот такую штуку для повторяемости и быстрых автоматических резервных копий/восстановлений/обновлений:
https://github.com/nazar-pc/docker-webserver
Это для моей задачи, у вас, наверняка, другая задача, но подход может быть аналогичным.
Простоту и повторяемость ставите как основное требование - и со временем придете к тому, что полноценная ОС в контейнере не нужна.