Сервер с GPU предназначен ли для запуска фронтенда/бэкенда или он для вычислений?

Question

[Сергей Хлопов]

Добрый день, подскажите пожалуйста.
Есть сервер:

GPU RAM: 12 GB
UUID образа: vastai/base-image:cuda-12.4.1-auto
Шаблон: vastai/base-image:@vastai-automatic-tag
Команда nvidia-smi возвращает тоже таблицу с информацией о CUDA (как я понял)

Такие сервера предназначены только для вычислений, например обработка видео или обучение?
Просто на сервере нет systemctl, соответственно не удаётся запустить nginx, docker например, но я так понимаю такие сервера и не предназначены для запуска веб-сервера и развёртки фронтенда/бэкенда, наверно.

Comments

[Alexey Dmitriev]

стесняюсь спросить, а что вам мешает прочитать все в интернете самому? на официальном сайте расписана информация, dockerfile их и готовые образы есть на докерхабе, на них можно посмотреть

[Ronaldo]

nginx, docker - вам нужно ставить самому.
Дальше уже по необходимости в этот развернутый образ ставится обвязка. Например такая:

[RStarun]

"Просто на сервере нет systemctl" - а какая там стоит ОС?

Answer 1

[Максим Припадчев]

Здесь, вопрос про целесообразность, оплачивания gpu сервера, если у тебя нет gpu-bound операций.

Докер, ставишь, ngnix также при чем в докер, а не в систему. Современные ml архитектуры подразумевают, развертывания, как бэкенда так и фронта (mlflow, airflow и т.д.) все имеют веб интерфейсы, которые сильно облегчают жизнь.