Когда нейрон должен «выстрелить» при динамическом колличестве связей?

Question

[DemonSinusa]

Когда все весы входящих связей расставлены или же не обязательно, и если не обязательно то как будет выглядеть функция, способная работать при постоянном различном количестве и значениях весов связи?

Comments

[DemonSinusa]

К примеру: У нейрона 10 связей, по 7-ми из них хотя бы раз прошел импульс а 3 из них не менялись, надо ли в этот момент рассчитывать значения на выходе?

Answer 1

[Андрей Кравчук]

Функция (называемая по науке активационной) выбирается в соответствии с желанием левой пятки исследователя, в тренде сейчас логистическая функция

и пороговая

Так как активационная функция — от одного аргумента, все значения «на входе» нейрона складываются с весами, выбор активационной функции не зависит ни от весов, ни от числа входов.
Почитайте в википедии, там правда очень хорошо всё расписано.

при постоянном различном

Как-как, простите?

Comments

[DemonSinusa]

Я просто не могу четко выразиться, но это выглядит так:
В один момент к нейрону идут 10 входов, через некоторое время создаеться еще 3 или убираеться сколько то, вот как работать с не статичным колличеством связей не останавливая работы приложения?
Нужна функция на которую не влияет колличество входов, а влияют только значения полученные с этих входов, и, да, самое главное, т.к. каждый нейрон в отдельном потоке то значения на вход будут передаваться не одновременно, но есть возможност получить последнее входящее значение, так вот когда мне выполнять функцию активации, если в определенный момент значения поступили, к примеру, только на 10 входах из 15?
или же активация происходит только когда все входы имеют значения?

[Андрей Кравчук]

через некоторое время создаеться еще 3
В этот момент меняется конфигурация сети, а следовательно, все веса «входов», тщательно полученные в результате обучения, теряют смысл, потому что они были рассчитаны для другой конфигурации, а значит, обучение нужно начинать заново — по сути, это уже другая ИНС.

[DemonSinusa]

Хотите сказать, что нейронные связи в голове статичны, и на протяжении n-ного времени у них не добавляються связи?

[DemonSinusa]

И, да, в момент создания можно пересчитать весы связей, но вопрос был в другом…
У нейрона 10 связей, по 7-ми из них хотя бы раз прошел импульс а 3 из них не менялись, надо ли в этот момент рассчитывать значения на выходе?

Answer 2

[Андрей Кравчук]

В голове, разумеется, не статичны, но ИНС — не голова, а модель. Модель на то и есть модель, чтобы упрощать действительность.
В связи с чем последний вопрос лишён смысла, в классических ИНС не «импульс», а входное значение (число), и они (входные значения) либо все есть разом, либо нет.

Answer 3

[dtestyk]

можете обратить внимание на частоту и период рефрактерности