По какой формуле рассчитывается «важность признаков»?

Question

[amanda_koval]

Используя код xgb.plot_importance (model) я получила график, приведенный в примере.
Подскажите, каким образом, рассчитывается важность признаков? Нужно описать математически. Возможно есть формула расчета? Очень нужно!!!!!!!!!! В интернете пока ничего не нашла.

Answer 1

[dmshar]

Только вот зачем вы говорите, что график получили вы?
Но в той-же статье, откуда вы взяли "свой" пример:
https://machinelearningmastery.com/feature-importa...
присутствует ссылочка на книгу и страницу в ней, где описывается " how feature importance is calculated in boosted decision trees,"
Вот здесь также есть ссылочка на общедоступную книгу с соответствующем описанием:
https://forums.fast.ai/t/feature-importance-of-ran...
А еще можете почитать вот тут:
https://datascience.stackexchange.com/questions/87...
https://towardsdatascience.com/be-careful-when-int...
Если действительно "очень нужно" - то осилите. И да, учитесь искать в интернет. Пригодиться.

Comments

[xmoonlight]

Русский бы выучить тебе бы не помешало))

[dmshar]

xmoonlight, Спасибо за совет. Обязательно приму к сведению. Только мне и английского пока хватает.

[xmoonlight]

dmshar, без "мягкого" знака: Пригодится.

Отличаем в контексте форму глагола 3 лица единственного числа (он) «пригодится».

[dmshar]

xmoonlight, Ну, хоть точки и запятые расставлены верно, и то - по нынешним меркам - хорошо.

[xmoonlight]

dmshar, ))

Answer 2

[amanda_koval]

этот график я взяла для примера, идея то одна
да, но там описан код. А мне нужна математическая реализация. Возможно где-то встречалась
В любом случае, спасибо за помощь! Постараюсь разобраться.

Answer 3

[xmoonlight]

Здесь посмотрите, какими путями можно находить важность признаков.