Что-то не понимаю, зачем вы ставите какие-то пакеты, когда можно просто зайти на
https://vestacp.com/install/ (Generate Install Command) - сгенерировать нужный вам ssh файл, скачать и установить, все пакеты поставит само, прямо на чистый Debian 9.
Пример генерации (не используйте, генерируйте по ссылке сами):
# Зайти на сервер
ssh root@your.server
# Копи-паст
curl -O http://vestacp.com/pub/vst-install.sh
# Копи-паст
bash vst-install.sh --nginx yes --apache yes --phpfpm no --named yes --remi yes --vsftpd yes --proftpd no --iptables yes --fail2ban yes --quota no --exim yes --dovecot yes --spamassassin yes --clamav yes --softaculous yes --mysql yes --postgresql no
И хоп, у вас VestaCP, поздравляю
Если в край вообще не устанавливается и сервер пустышка - переустанови Debian ибо там кто-то что-то накрутил уже походу.