决策树学习——何时停止分裂

tanjima98

就像在股票市场中您必须知道何时退出以获得最大利润或最小损失一样，在决策树中，您必须知道何时停止分裂。

大型数据集会带来大量的特征，这会给树带来很高的复杂性，并且存在过度拟合的可能性。

因此，我们需要知道 卡塔尔 手机号码列表 何时停止。一种方法是设置每个叶子上使用的最小训练输入数量。

例如，我们可以使用最少 10 名乘客来做出决定，因此我们会忽略任何少于 10 名乘客的叶子。相反，另一种方法是设置模型的最大深度。
决策树学习的进一步发展——剪枝
决策树学习
决策树学习——剪枝

为了进一步提高树的性能，我们使用了修剪方法。它基本上是删除那些利用重要性较低的特征的分支。

这样做可以降低树的复杂性，从而避免过度拟合，提高其预测能力。

最简单的修剪方法从叶子开始，删除每个包含最流行类别的节点，这被称为减少错误修剪。

可以使用更复杂的修剪方法，例如成本复杂性修剪，其中使用称为 alpha 的学习参数来衡量是否可以删除节点。有时它被称为最弱链接修剪。
CART 的优势

（i）简单且易于理解、解释和形象化。

（ii）它们隐式地执行特征选择。

（iii）它们可以处理分类和数字两种数据类型。

（iv）它还可以处理多输出问题。

（v）用户需要花费相对较少的精力去准备数据。

（vi）参数之间的非线性关系不会影响树的性能。
CART 的缺点

（i）新手决策树学习者可能会创建复杂的树，但这些树不能很好地概括数据。这就是所谓的过度拟合问题。