Видеокарта для обучения нейросетей, Palit P104-100 8Gb?

Question

[Godless]

Пипл, нужен совет. Начинаю разбор темы нейросетей, вопрос, годится для начала видеокарта Palit P104-100 8Gb ?

Цель - бюджетно и для попробовать.
Больше 5-8к не готов отдать пока. Вот если все норм пойдет, готов буду 2080 или 30хх взять.

Согласно ресурсу, в ней интерфейс PCIe 1.0 x4. Это важно ?

Я погуглил немного за тему выбора видюх, но очевидного решения не нашел. Вроде как важнее размер оперативы, чтобы весь батч помещался.

Использовать буду на сервере домашнем (2*2670v2 / 20 ядер/40 потоков / 128 ГБ DDR3).
На десктопе видюха 5700 ХТ. Судя из того что почитал, она не поддерживает ROCm и pytorch не увидит аппаратное ускорение. Или пофиг ?

что буду юзать пока не знаю. Предположительно PyTorch / Tensorflow.
Цели нейронок тоже пока не определены. Классификация изображений конечно, сверточные сети, мб анализ/синтез голоса, если осилю.

Подытожу:
1. Годится для начала видеокарта Palit P104-100 8Gb ?
2. Можно ли пробовать на Radeon 5700 ХТ 6 ГБ ?

Comments

[alexalexes]

Вам нужно не от железок отталкиваться, а как раз определиться, какие конкретно среды и проекты будете запускать.
У каждого проекта можно посмотреть спецификации железа - от туда и узнаете, что вам нужно.

Answer 1

[Daemon23RUS]

PyTorch / Tensorflow без особых проблем взлетает на зеленых, на Palit P104-100 все должно подняться.
Но 8Gb хватит ли под Ваши задачи, это только Вы знаете. С красными (Radeon 5700 ХТ 6 ГБ) все немного сложнее, кучу времени убьете чтобы взлетело, и не факт что взлетит.
PCIe 1.0 - в этом разрезе уходит на 2й план, если будете в дальнейшем апгрейдить. Это уже из области "работает в принципе" и "работает быстро"

Comments

[Godless]

Спасибо, вопрос решен приобретением недорогой заведомо рабочей 1070 ti с рук.

Answer 2

[rPman]

Если выбирать при работе с нейронными сетями - больше памяти = лучше почти всегда (чтобы в память влезали нейронки, обучающая выборка и тесты и еще осталось), в идеале конечно и кеш больше но это архитектура (новее = лучше почти всегда). Выбор nvidia почти всегда для нейронок лучше, вопрос не железа, оно у них даже может быть хуже (соотношение цена/результат), вопрос софта, почти весь популярный ЛУЧШЕ или вообще работает с nvidia.

Если тебе для обучения, видеокарта не нужна, она только экономит время (от 10х до 100х кратно быстрее на gpu). pytorch это не единственное место, где можно использовать ускорение gpu, скорее может оказаться что стартовая подготовка данных будет занимать значимо больше времени чем само обучение, и возможность ускорить этот этап с помощью gpu (используй напрямую opencl чтобы хотя бы на этом этапе не привязываться к зеленым, для начинающих разницы нет) будет значима... именно тут можно получить 100х кратное ускорение по сравнению с cpu

p.s. стоимость видеокарты намекает на покупку с рук БУ, почти наверняка с майнинга, будь осторожен, можешь получить горелую.

Comments

[Godless]

Спасибо, вопрос решен приобретением недорогой заведомо рабочей 1070 ti с рук.

[rPman]

Godless, неплохой выбор, это почти 1080 (чуть чуть меньше потоковых процессоров но там считанный процент), одно время это был безоговорочный лидер в домашних нейронках