Всегда ли возможно переобучение дерева решений?

Question

[zlodiak]

Допустим, имеется таблица признаков, состоящая из 100000 записей. Допустим, в ней 4 столбца: первые 3 содержат атрибуты, а четвёртый содержит целевой признак. Скажите пожалуйста, при использовании дерева решений, всегда ли существует опасность излишнего переобучения этого дерева?

Ведь если атрибута всего 3, то это значит, что в дереве решений будет всего 3 уровня. При этом нет никаких гарантий, что 100000 строк успеют перераспределиться таким образом, что каждый лист будет содержать только целевые признаки одного вида

Answer 1

[Данил]

Вопрос достаточно абстрактный. Если задать достаточно большую глубину дерева, то скорее всего алгоритм переобучится. Так же нужно учитывать сам дасасет (например, распределение целевого признака).

Если интересно, можно проверить, как себя ведет дерево решений на существующих датасетах.