Можно ли взять количеством в DeepLearning?

Question

[asakasinsky]

Есть возможность взять комп с шестью картами GeForce GTX 1050 Ti. Использовался для майнинга, планируется использоваться для экспериментов с машинным обучением.
Карты, как я посмотрел на этот график, не самые производительные, но может, количество тут решит?

Answer 1

[dmshar]

Вообще-то, мне по наивности казалось, что в DeepLearning нужно брать головой.
Но, если знаете для чего вам аж шесть карт, умеете параллелить алгоритмы аналитически, программно и технически - то можете и количеством что-то достичь. Было бы понимание - чего именно. А люди и на одной такой карте чего-то добиваются, и даже без всяких видеокарт получают интересные результаты.

Comments

[asakasinsky]

Вообще-то, мне по наивности казалось, что в DeepLearning нужно брать головой.

Ну, ожидаемый коммент. Собственно, чего я ожидал при такой постановке вопроса. :D

Сформулирую вопрос более точно.
Верно ли утверждение, что общая производительность системы будет примерно равна производительности одного GPU, помноженного на количество GPU?

Если утверждение верно, то тогда производительность машины с шестью GTX 1050 Ti незначительно превысит одну GTX 1080 Ti (согласно графику выше).
Но тут появляются ещё два интересных фактора:
1. Конечная стоимость системы. Теоретически можно поторговаться, тем самым выиграв финансово.
2. В случае с шестью картами я могу менее болезненно пережить выход из строя GPU, ибо запас.

Но, если знаете для чего вам аж шесть карт, умеете параллелить алгоритмы аналитически, программно и технически - то можете и количеством что-то достичь. Было бы понимание - чего именно.

Расклад простой.
Есть возможность забрать этот комплекс за счёт предприятия.
Есть очень большая вероятность, что ближайший год у меня возникнет потребность в периодической проверке некоторых гипотез на основе большого датасета.

люди и на одной такой карте чего-то добиваются, и даже без всяких видеокарт получают интересные результаты.

Вот тут-то и появляется надобность «в видеокарте». Не хочется много времени тратить на проверку гипотез. Можно будет разбить датасет на батчи и за сравнительно небольшое время получить результат.

[dmshar]

"Сформулирую вопрос более точно.
Верно ли утверждение, что общая производительность системы будет примерно равна производительности одного GPU, помноженного на количество GPU?"

Не совсем. Точнее - зависимость нелинейна. Будет тратится время и ресурсы собственно на распараллеливание а потом на агрегирование полученных результатов. Причем, как я написал, все будет зависеть от того, как алгоритмически и программно вам удастся распараллелить свою задачу. Но тем не менее, рост будет. Так что утверждение -
"производительность машины с шестью GTX 1050 Ti незначительно превысит одну GTX 1080 Ti "

может оказаться не верным. Однако, если

"Есть возможность забрать этот комплекс за счёт предприятия.
Есть очень большая вероятность, что ближайший год у меня возникнет потребность в периодической проверке некоторых гипотез на основе большого датасета."

то почему не взять? У меня бы даже вопрос не возникло :-). "Дают - бери, а бьют - все равно бери" :-) Тем более непонятно, у вас альтернатива "брать-не брать" или "брать 6 карт послабее или одну мощную"?

В случае с шестью картами я могу менее болезненно пережить выход из строя GPU, ибо запас.

- ну тут и сомневаться не приходится.

"Не хочется много времени тратить на проверку гипотез. Можно будет разбить датасет на батчи и за сравнительно небольшое время получить результат."

если задача это допускает. Т.е. смотря, какие методы проверки гипотез вы задумали применять и как. Не со всеми задачами это можно сделать. Обработка "большого датасета" не всегда вычислительно-сложная задача, для которых разумно использовать видеокарты. Ну, классический пример: задачи типа перебора словаря. В таких задачах все упирается в распараллеливание хранилища, а обработка - тривиальна. Но тут вам виднее, конечно.

[asakasinsky]

dmshar, спасибо!