Каким образом подавать входные данные в нейросеть?

Question

[moonysleeps]

Не совсем понимаю, как подавать входные сигналы в нейросеть для анализа аналоговых данных с датчиков. К примеру, есть 16-битный АЦП, что дает диапазон значений от 0 до 65535. Каким образом подать этот сигнал на вход нейросети? Переводить это значение в двоичное число и каждый разряд представлять нейроном? Или просто брать массив, размерностью 65535 и заполнять его следующим образом: к примеру, значение 200 = первые 200 разрядов в массиве выставить в единицу, а остальные в нули и подать массив на вход.

Первый вариант имеет меньше нейронов, но будет дольше обучаться. Второй имеет большую размерность. Может это вообще не так делается?

Answer 1

[Александр Скуснов]

Самое простое - перевести в дробный вид и поделить на максимум. Тогда диапазон значений будет от 0 до 1. Иногда предпочитают [-1, 1], можете перевести и в этот диапазон.

Comments

[vaservaser]

>"Самое простое - перевести в дробный вид и поделить на максимум"

У этого есть даже название - нормализация.

[Masimo]

Иногда предпочитают [-1, 1], можете перевести и в этот диапазон.

Внимание ! это требует другой активационной функции в нейронной сети! Соответвенно при обучении методом градиента Back Propogation необходимо вычеслить производные от другой активационной функции. В учебниках такое не найдете.

[Александр Скуснов]

Masimo, Не знаю, про какие учебники вы говорите. Я пользуюсь документацией MatLab, там куча функций активаций. Напр., для ReLU (rectified linear unit) используется кусочно-линейная (недифференцируемая в 0) функция (a=0 для x<=0, a = x для x>0).

[Masimo]

Александр Скуснов, книга одна так сказать мэтр среди НС - neural networks: a comprehensive foundation Симон Хайкин

Answer 2

[longclaps]

Каким образом подавать входные данные в нейросеть?

Подавай с аперетивом на своё усмотрение. Раз уж природа данных не имеет значения. Нейросеть всё схавает.

ps moonysleeps, раз уж ты отметил это решение - вот что. 2^16 - это точность овердофига, в реальности этот сигнал наверняка зашумлён, его можно масштабировать, предобработать, задавить высокочастотные шумы и отбросить младшие разряды. Не зная природы сигнала, большего сказать не могу.

Comments

[moonysleeps]

согласен, фильтрация нужна обязательна. Сигнал берется с датчиков ЭЭГ и зашумлен очень сильно. Однако, для меня крайне важно улавливать малейшие "полезные" выбросы. Попробую использовать максимально широкий диапазон и буду уменьшать, по мере необходимости, следуя вашему совету. Спасибо вам

Answer 3

[mayton2019]

16 битный звуковой сигнал не годится для подачи на вход НС. Его необходимо перевести в АЧХ и еще побить на некоторые атомарные отсчеты наподобие звуков или букв или музыкальных нот. Как побить - это тема отдельного топика и ее надо изучать отдельно. В вашем случае - нельзя рассматривать нейро-сеть как мясорубку куда кидают что ни попадя. Информация должна быть дискретной и осмысленной. Тоесть если вы обучаете НС с учителем то вы должны предъявить сети на вход частотную характеристику ноты ДО первой октавы например и в качестве обучающего сигнала и дать подсказку что это есть нота ДО. Если будете подавать на вход белый шум - то сеть ничему не научится.

Comments

[Masimo]

Вы не правы, она НС обучиться на шум )) и результат НС будет ответ Шум