Какую конфигурацию компьютера выбрать для машинного обучения?

Question

[Wade2k]

Приветствую.
Начал изучать машинное обучение. Решил обучить небольшую нейронку на текстовых файлах 2 по 20 мег, и у меня кончилась память в процессе - векторы слов не влезли)
Сейчас у меня старый i7 8гб оперативы, и nvidia 560

Видимо надо обновить компьютер - что брать?
Новый i7, 32 гб оперативы и nvidia 1080ti?

Какую конфигурацию подобрать?

Comments

[ой всё]

сори за вопрос не по теме, а с чего начали изучение?

[Wade2k]

Много посмотрел видео на Ютубе. Например https://youtu.be/CDpbJIbDhys

[SolidMinus]

Wade2k, почитай еще книжку по Keras от его создателя. В ods.ai выкладывали ссылку, книга еще пишется. "Deep learning with python" Scollet. Книга просто идеальная. Она по Keras - он значительно проще Tensorflow, являясь по-сути его wrapper'м, можно задавать в пару строк любые архитектуры популярные и получать доступ к графу TF оттуда же.

Answer 1

[SolidMinus]

Я бы лучше провел оптимизацию по памяти в ущерб скорости. А будет датасет на 100 мегабайт - будешь 64 гига покупать?

Попробуй формировать вектора только для каждого минибатча, а как минибатч пройдет - освобождать память. Т.е не сразу все в векторы переводить, а в процессе работы. Да - дольше. Да, будешь повторять все по новой в каждой эпохе. Но у эффективности по памяти обратная зависимость от эффективности по скорости...

Конфиг вполне нормальный, не смотря на то что в 560 CUDA версии 2.1, тем же TensorFlow не поддерживается для ускорения ( где минимум в текущей версии 3.0 ). У самого эта видюха на одном из компов. Поэтому если юзать CUDA хочешь, то советую прикупить новую видюху, а с памятью всегда проводить препроцессинг отдельно для минибатча, а не всего датасета.

P.S. Конфиг 1 в 1 как у моего второго компа))))

Comments

[Wade2k]

Спасибо за дельный совет. Так и поступлю