Нашел решение проблемы.
1) Изменил в файле /etc/default/virtualbox
VBOXWEB_HOST на IP сервера
2) Тот же IP прописал в файле
/var/www/phpvirtualbox/config.php
var $location = '
http://*.*.*.*:18083/';
3) Удалил файл
/lib/systemd/system/vboxweb.service, который мне теперь не нужен.
4) Т.к. я использую
Supervisor сделал для него конфиг
/etc/supervisor/conf.d/vboxweb.conf:
[program:vboxweb]
command=/usr/bin/vboxwebsrv -H IP-Сервера
user=virtualbox (пользователь от которого работает сам виртуалбокс, он должен быть прописан в /etc/default/virtualbox)
process_name=%(program_name)s
numprocs=1
autostart=1
autorestart=1
redirect_stderr=true
5) Перезапустил
Supervisor
В итоге все работает: