Какие темы в статистике нужно изучить прежде всего, чтобы начать решать простые задачи машинного обучения?

Question

[Its_Suchkov]

Чтобы заниматься машинным обучением нужно изучить огромное количество материала. Я даже не знаю с чего начать, поэтому прошу посоветовать мне наиболее важные темы из статистики.

Answer 1

[Максим Припадчев]

Мой тебе совет. Который не послушаешь, любой путь можно пройти если его начинать идти с правильного места, с того который тебе по зубам.

Давай так что сначала учат теорию вероятности или статистику? - Теорию вероятности
Чем занимается статистика? - оценкой.
Оценкой чего? - параметров модели.

Статистика далеко не первична.
Что такое например mean, median, std и т.д? Это описательная статистика.
Что она описывает? Набор данных, то есть на вход много циферок на выход одна. Которая что то значит.
Что если набор данных это X для простоты 1D и mean(X) значительно больше чем median(X)? - это значит распределение имеет сильный скос вправо.

Что такое распределение? Что такое скос? и чем это вызвано?

и все в таком духе. Учить статистику до теории вероятности это пустая трата времени.

ок, значит теория вероятности, какие требования.

Дискретная Математика - для дискретных переменных.
Интегрирование, дифференцирование для непрерывных.

и т.д.

что по итогу.

1. Алгебра
2. Основы Дискретной математики, просто хотя бы сеты и операции с ними.
2. Линейная Алгебра
3. Дифференцирование
4. Интгегрирование
5. Теория Вероятности.
6. Статистика.

Статистика в конце как видишь. Потому что она работает с наблюдениями. Ты видишь цифры и задаешь вопрос, а какой процесс сгенерировал эти цифры, какой моделью я могу их описать? А какие параметры у этой модели, и вот появляется ML.

Comments

[Its_Suchkov]

Ещё раз благодарен вам за то, что отвечаете на мои вопросы. Проблема в том, что некоторые из тем проходят только в вузе (интегрирование, дифференцирование (11 класс, а далее — вуз), линейная алгебра). Если с матрицами я могу попытаться разобраться, то интегрирование точно не осилю в одиночку. Что делать до вуза?

[Its_Suchkov]

Я буду вам благодарен, если ответите и на этот вопрос Важны ли алгоритмы и структуры данных для ML-инженера?

[Максим Припадчев]

Its_Suchkov, Курсы с KhanAcademy там есть все кроме дискретной математики, на сколько я помню они на английском, но тут как я говорил ранее, без английского будет очень тяжело, я бы с него начал.

[Its_Suchkov]

Максим Припадчев, Других вариантов нет? Есть возможность, например, пропустить некоторые темы (интегралы и тд)?

[Максим Припадчев]

Its_Suchkov, Относительно ML инженера, да в целом очень полезно, это расширяет мышление. В какой то момент своего обучения ты можешь пройти курс по CS (Computer Science) и там это будет, это добавит к твоему мышлению. Важно научится думать, это определенно помогает.

[Максим Припадчев]

Its_Suchkov, Ты не сможешь решать задачи по теории вероятности, с непрерывной переменной. А смысл учить дисциплину, если не решать задачи.

[Its_Suchkov]

Максим Припадчев, Получается идти в ML еще рано, или всё таки можно попытаться? И еще вопрос: я видел конкурсы по ML (например, AI Challenge). Там участвовали даже те, кому нету 14. Как они решали задачи? Ведь сомневаюсь, что в таком раннем возрасте можно изучить вышеперечисленный список. Что бы вы делали на моём месте, если бы вы не знали английский, а до интегралов вам еще далеко? Ведь есть огромное количество времени впереди, можно же использовать его с пользой.

[Максим Припадчев]

Its_Suchkov, учил английский. Это навык на всю жизнь, который пригодится за пределами ML.

[Its_Suchkov]

Максим Припадчев, Здравствуйте, Khan Academy есть на русском. Я нашел там пока только статистику для средней школы и тригонометрию. Может, плохо искал.

[Максим Припадчев]

Its_Suchkov, На русском она совсем не полная. Статистика на Khan Academy слабенькая совсем. Там курсы Precalculus, Calculus AB, Calculus BC. Вот эти курсы очень сильные.

[Its_Suchkov]

Максим Припадчев, Понятно, спасибо.

[robomakerr]

даже те, кому нету 14. Как они решали задачи?

Its_Suchkov, так вы свяжитесь с ними и спросите напрямую)

[robomakerr]

Ведь есть огромное количество времени впереди, можно же использовать его с пользой.

Its_Suchkov, забудьте пока про академические учебники, там за лесом не видно деревьев. Вы их успеете позже изучить.
Чтобы решать практические примеры, нужно понять смысл того что вы делаете, а не миллион мелких формальных подробностей. Все основные понятия и действия можно объяснить в двух словах и простым языком, например хорошо написал Максим Припадчев в верхнем ответе. В учебниках вы не найдете такого контента, зато он есть в научпоп-книгах, блогах, ютубах, сейчас их много развелось. Гуглите. Неплохо объясняет смыслы ИИ, но он часто косячит в мелких деталях, его надо перепроверять.

[Its_Suchkov]

robomakerr, Спасибо за ответ.

[Its_Suchkov]

robomakerr,

так вы свяжитесь с ними и спросите напрямую)

К сожалению, нет таких связей.

Answer 2

[Anton_1982]

Its_Suchkov, добрый день!
Для начала работы с машинным обучением изучите:

- Описательная статистика: среднее, медиана, дисперсия.
- Вероятность: распределения, условная вероятность.
- Основы статистического вывода: проверка гипотез, доверительные интервалы.
- Корреляция и регрессия: линейная, логистическая.
- Основы байесовской статистики.
Удачи вам!

Comments

[Its_Suchkov]

Благодарю вас за ответ!