пропиши
sudo ufw allow ssh - разрешит ssh (22 порт)
sudo ufw disable - отключишь фаерволл
и займись потом нормальной настройкой фаерволла)
VMmanager это не "типа путти", это подключение напрямую к ПК(через удаленку), как тим вивер.
Ну с учетом что там у тебя арендована VPS и это виртуалка)