Где обучить нейросеть?

Question

[ermak148]

Недавно задался вопросом. Pytorch то я выучил, но моя чих пых видеокарта вряд ли справится с сетью с 400>млн параметров. Попробовал обучать на selectel'е, но цена в 90 рублей в час за A5000 совсем чуточку кусается. Я чего колаб не использую, там T4 даже 1 млрд еле как вмещает, а оперативки вообще 12 гигабайт + выполнение отрубается когда загружается оперативка. Идей нет. Где обучать сети.

Answer 1

[rPman]

vast.ai есть даже оплата криптовалютой
фишка в том что там можно подобрать десктопные видеокарты с меньшим объемом vram если подходят под твою задачу (400млн float/double это 1.6/3.2GB vram + память под обучающую выборку + сопроводиловка 10%-20%), они дешевле по определению серверных.

Дешевле, только приобрести видеокарту себе и собрать свой комп (я говорю про ситуацию когда тебе не нужен суперкомпьютер, как только у тебя производительность выходит за рамки нескольких десятков gpu то там возникают другие проблемы)

Comments

[ermak148]

Полистал. Посмотрел. Жаль, что нет винды с удаленным рабочим столом. С ssh работал раз в жизни, и то, ввел всего пару команд

[Василий Банников]

ermak148, вот и повод научиться

[rPman]

ermak148, если ты работаешь с нейросетями в питоне, то наоборот с linux тебе будет проще, там все то же самое но меньше гемора с зависимостями, многое будет устанавливаться штатно (хотя, уже давно все в pip уехало, и стало единообразнее, т.е. теперь и в линукс гемороя прибавилось)

мало того, разве виндовая поддержка gpgpu не прекратилась у torch?

[palacio]

я пользуюсь https://www.runpod.io/
Множество готовых темплейтов для работы, можно собрать свой контейнер и работать на нем
Прайсы конфигурации

[ermak148]

palacio, цены крутые, но оплачивать сложно