Потому что после chroot корнем файловой системы для процесса будет указанный каталог, а где там /bin/bash? Его там нет. Его надо там создать. Далее потребуются некоторые библиотеки из /lib. Устройства из /dev. Утилиты, хотя бы coreutils. И т.д. и т.п. Проще всего сразу же сделать минимальную систему в нужном каталоге с помощью debootstrap.
PS: Я по формулировке темы вопроса думал, что вот сейчас надо будет рассказывать про chroot'ы, namespace'ы, openvz и виртуалки, но тут, оказывается, дело было не в этом...