Что таоке переобучение? И что такое модель?

Question

[Denis Ogurtsov]

Что таоке переобучение? И что такое модель?
Никак не могу понят. Только начал изучать машинное обучение.
Переобучение - это когда твой алгоритм обучился на неправильных данных. Тогда мне алгоритм нужно переобучить на более правильных. Почему тогда назвали переобучение а не "неверно обученный алгоримт"?

Модель, я так понимаю - это не физическое значение, типа класс, алгорим. Это что то типа связи? Какой синомим можно подобрать? Есть ли примеры?

Может посоветуете почитать что то дополнительно что бы разобраться?

Answer 1

[Сергей Протько]

Какой синомим можно подобрать?

Модель - фр. modèle, от лат. modulus — «мера, аналог, образец». В контексте машинного обучения моделирование больше идет в сторону аппроксимации входящих данных.

Наш мозг, знаете ли, тоже примерно так работает. Он на основе собственного опыта строит свою модель окружающего мира, и уже на основе этой модели мы определяем что есть что. Скажем если мы один раз обожглись в огне, мы знапомнили приблизительно как выглядит огонь, и когда в следующий раз увидим что-то, что похоже на огонь, хоть и другого цвета например и без дыма, мы всеравно будем понимать что руки туда совать не надо, ибо мозг прогонит эдакую симуляцию в рамках своей модели мира и поймет что результат - боль.

Почему тогда назвали переобучение а не "неверно обученный алгоримт"?

Переобучение (переподгонка, пере- в значении «слишком», англ. overfitting). Читать вики.

Comments

[Denis Ogurtsov]

Спасибо

[Denis Ogurtsov]

может посоветуете почитать что то относительно не сложное?

[Сергей Протько]

Denis Ogurtsov: википедию. Там дальше уже по ключевым словам.

[⚡ Kotobotov ⚡]

по такой тематике, википедии мягко говоря маловато будет.
если не ясны пока такие термины как модель или переобучение -> то вам следует для начала подтянуть курс статистики, потом теории вероятности, затем комбинаторику, теории игр, освоить методы решения задач типа динамического программирования, линейного программирования, каким образом в целом подбираются решения не только в машинном обучении, типа градиентного спуска и тд и тп.
потом переходить к машинному обучению, не торопитесь, всему своё время.

[Denis Ogurtsov]

дима кубитский: спасибо

[Sergei Sudakov]

Denis Ogurtsov: могу настоятельно рекомендовать курс машинного обучения на Coursera.org, который ведет Andrew Ng. Курс на английском, но если это не остановит, это одно из лучшего, что есть по основам. Некоторое знание теории вероятности, конечно, необходимо, но математика там не зубодробительная.

[Denis Ogurtsov]

Sergei Sudakov: спасибо! прохожу очень интересно и полезно

Answer 2

[⚡ Kotobotov ⚡]

во первых обучают всегда на нужных данных.
переобучение (ещё называют переподгонка) это когда именно переобучил, даже на "правильных" данных.
грубо говоря это когда ты так обучил модель, что она просто в точности повторяет данные из обучающей выборки.
такой эффект встречается, когда например пытаются максимально точно подогнать результаты алгоритма к обучающимся данным.
это плохо тем что твой алгоритм не предсказывает что либо, а просто выдаёт ответ в точности как в обучающийся данных. пользы от этого никакой.