На сколько сложно написать нейронную сеть?

Question

[beduin01]

На сколько сложно написать нейронную сеть с нуля к примеру на С++? Не в плане что взять и библиотеку которая реализует весь функционал, а именно с нуля.

Мне интересно с позиции понять сложность этого всего. К примеру Tensor Flow это сколько человеко-лет?

Может ли это сейчас сделать в одиночку один человек или там несколько десятков должно над этим работать?

Сам писать ничего не собираюсь, просто масштабы сложности интересны и какие библиотеки для этого нужны? Для работы с многомерными массивами и все?

Answer 1

[Станислав Силин]

У меня вышло около 400 строк. Сюда вошел сам перцептрон и его "обучатель", который подсовывал ему изображение и бил/хвалил в зависимости от результата. Плюс отдельно было написо приложение на C# с UI, которое уже использовало сгенерированые веса для идентификации. Там нет ничего сложного, если знаешь матчасть.

PS. Но я щас смотрю на код и не понимаю, почему я написал некоторые участки именно так=)

Comments

[beduin01]

А там какие-то специфичные либы нужны были? Для работы с какой нить алгеброй сложной или массивами n-мерными или все более банально?

[Станислав Силин]

Да нет, только циклы. Конечно моя реализация и рядом не стояла с Tensor Flow, но черно-белые знаки она распознавала без проблем.

Answer 2

[dinegnet]

Написать лишь бы она работала, не универсально, точно под вашу задачу - элементарно.
Обучить - сложно.
Ну и оптимизация по быстродействию - это надолго.

------------
Если вам нужно оценить сложность готовых решений - поглядите исходный код тех, что доступны.

Answer 3

[ivodopyanov]

Там проблема не в том, чтобы написать так, чтобы работало без ошибок. А в том, чтобы написать так, чтобы
1) Работало быстро
2) Для этого могло работать на GPU
3) Или работать в кластере
4) Было достаточно универсальным в плане использования
5) Легко было отлаживать
6) Имело удобный API
...
Вот на это, полагаю, уходит основное время при разработке таких вещей, как Tensorflow.