@CNNRNN

Как рассчитать ошибку на выходном слое?

Добрый день!
Как я понял ошибка на выходном слое для одного нейрона = (Ожидаемый результат - полученный результат) * на производную функцию активации.
Вопрос 1
Это формула зависит от того, какую функцию ошибки я использую , например будет ли там MSE или Cross Entropy?
Вопрос 2
Функция ошибки сети просто показывает на сколько точна работает сеть и не влияет на расчет ошибки выходного слоя ?
  • Вопрос задан
  • 84 просмотра
Пригласить эксперта
Ответы на вопрос 1
deeppsycoder
@deeppsycoder
клинический психолог
Лучше говорить, не "функция ошибки" (error), а "функция потерь" (loss), в качестве которых может выступать среднеквадратичная ошибка (MSE), средняя абсолютная ошибка (MAE), перекрёстная энтропия и пр. С помощью этой функции оценивается отличие полученного результата от ожидаемого. Задача стоит в её минимизации. Производные нужны, чтобы рассчитать градиент для последующей коррекции весов. Градиенты рассчитываются по всем элементам сети, начиная с функции потерь, постепенно распространяя ошибку назад ко входу в виде коррекции весов.
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы