Александр Скуснов

Так же и обучаются.
Примеры у Игоря Мотькина.

5 слоёв это... как бы и есть 5 слоёв. В каждом слое выбираете желаемое количество нейронов. В последнем слое количество нейронов равно количеству выходов (вы их не описали). В классическом перцептроне функция активации это сдвинутая функция sign (крайне не рекомендуется использовать, т.к. всегда градиент 0). Так что для каждого слоя подберите другие функции активации. А входов 32 (это не нейроны, а именно входы. Можете считать это 32-мерным вектором).

Кинул в Мерлин pdf-книгу на 300 страниц, нажал Summarize, секунд через 5 получил выжимки (стоял режим Авто, ответ был на английском, книга на русском.)

Андрей Карпатый всё выложил на блюдечке (особенно автоградиент а-ля PyTorch).
Плейлист NN: from Zero to Hero.

Раньше ведь другая лексика была. Он же не поймёт, что такое компьютер, например.

Ступенчатая функция (sign) сейчас не применяется из-за невозможности реализации градиентного спуска во время обучения. Самая быстрая это Relu (кусочно-линейная).
Точность достигается за счёт архитектурных решений (количество слоёв, прямой проброс (residual layer), ячейки памяти (LSTM, GRU), свёрточные фильтры, трансформеры).

Бред: нахождение максимумов и минимумов это история. Торговать уже поздно.

Не используются, т.к. все функции дифференцируемые, поэтому всегда можно подсчитать градиент и использовать метод обратного распространения ошибки.

В DirectShow бесплатная утилита GraphEdit.

А модель точно учиться? А то в двух местах no_grad() написано. (я-то в других средах обучал, поэтому тут не всё понимаю)
Ещё я не совсем понял, для чего initialize_model(). Обычно у модели прописывается forward(self, observation).

На схеме же видны разные условия (у динамического диапазона нет представительной выборки):

Задача - выделить признаки (features). Один фильтр выделит один признак. Если вам нужно несколько признаков, то делаете несколько фильтров параллельно.
Есть пример человека: 15 фильтров, каждый реагирует на полоски с угловым смещением 12 градусов (итого 180 гр.).

он или включен или выключен

Активацию ступеньку (sign) заменили на сигмоиду, т.к. нужно по частным производным считать градиент от конца к началу.
Потом перешли на ReLU для повышения скорости вычисления.
Полносвязные слои имели много параметров, поэтому нашли свёрточные фильтры (в основном, для изображений).
Было развитие систем с обратной связью (как в мозге), они же рекуррентные: LSTM, GRU. Там вместо нейрона несколько вентилей. Но обучение шло на последовательных данных.
Для параллельной обработки запроса внедрили корреляционные матрицы (внимание), так что современные сети делают на трансформерах. Но там миллиарды параметров, обычным компьютерам они не по зубам, поэтому пользователи делают только запросы через облако.

1) Настоящие нейросети (триллионы параметров) это миллиарды долларов для оборудования и обучения. Дешевизной тут не пахнет. По прогнозу Сергея Маркова (портал 21 век) через 10 лет ИИ сравняется с разумом человека.
2) Новые технологии, напр., в медицине. Хирургам помогает робот Да Винчи. Никто не предлагает его выкинуть. Также и нейронки: точное распознавание опухолей или помощь в определении диагноза. Фармацевтика и биология: создание новых лекарств (и белков). Обработка гигантских астрономических данных (автоматическое наведение телескопов и публикация статьи об открытии без участия человека).
Беспилотный транспорт (по земле и воздуху). Не будет пьяного водителя.
Есть ещё куча применений у военных, но они про это не рассказывают.

А почему нельзя было воспользоваться нормальной библиотекой? Вместо сотни строк получили бы 10. Если же вы делаете на низком уровне, то не делайте трёх слоёв, хватило бы и одного.

В России же Сбер и Яндекс раздают бесплатно.