news 2026/8/10 19:32:46

综合起来-决策树

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
综合起来-决策树

我们可以通过信息增益来判断节点上应该用什么特征

接下来我们将探讨如何构建一个多个节点的大型决策树

1 从根节点开始,包括所有的训练样本计算所有可能的信息增益,

然后选择信息增益最高的特征进行分裂,选择了该特征后,所选特征会将信息分成两个子集,创建数的左右分支,并根据样本的特征值,

将训练特征发送到左分支,或者右分支,这使得你可以在根节点进行一个分裂,

之后再左右分支重复分裂的过程,知道满足停止标准,

停止标准,一个节点纯度是100% 熵是0

或者达到数的最大深度

进一步分裂的信息上小于某一个阈值

节点中的样本数量小于某个阈值

完整详细流程

首先在根节点一次计算每个特征的信息增益,决定耳型是最佳的分裂特征

基于此创建了树的左右分支,并将具有尖耳或者软耳的子数据集发送到左右分支

然后我们覆盖右分支只看左分支,有五个样本假设我们的分裂标准是继续分裂,知道节点中的所有内容都是单一类别,即为全是猫或者狗,

我们会查看这个节点是否满足分裂标准,但是他不满足因为这里是猫狗的混合,

然后下一步继续选择一个特征进行分裂,因此我们依次查看每个特征,并计算这些特征的信息增益,就类似根节点那样当做一个新的根节点因此计算分裂胡须,还有脸型的信息增益,耳型的信息增益为0,因为耳型都一样是分裂之后的,所以我们在胡须和脸型中选然后我们基于信息增益选择了脸型,

然后看是否满足停止分裂的标准,这里全是猫因此创建一个叶子节点预测为猫

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/10 19:31:27

如何用RegNetY-320.SWAG-FT-In1k实现高效图像分类?5分钟上手教程

如何用RegNetY-320.SWAG-FT-In1k实现高效图像分类?5分钟上手教程 【免费下载链接】regnety_320.swag_ft_in1k 项目地址: https://ai.gitcode.com/hf_mirrors/timm/regnety_320.swag_ft_in1k RegNetY-320.SWAG-FT-In1k是一款基于RegNetY架构的高效图像分类模…

作者头像 李华
网站建设 2026/8/10 19:29:49

OBS Studio终极指南:3步快速打造专业级直播与录制环境

OBS Studio终极指南:3步快速打造专业级直播与录制环境 【免费下载链接】obs-studio OBS Studio - Free and open source software for live streaming and screen recording 项目地址: https://gitcode.com/GitHub_Trending/ob/obs-studio 你是否曾为复杂的直…

作者头像 李华
网站建设 2026/8/10 19:24:19

AIO-Switch-Updater实战指南:3种高效管理Switch金手指的进阶方案

AIO-Switch-Updater实战指南:3种高效管理Switch金手指的进阶方案 【免费下载链接】aio-switch-updater Update your CFW, cheat codes, firmwares and more directly from your Nintendo Switch! 项目地址: https://gitcode.com/gh_mirrors/ai/aio-switch-updater…

作者头像 李华
网站建设 2026/8/10 19:24:08

Helm与Argo CD面试题:DevOps Interview-Guide中的K8s部署工具解析

Helm与Argo CD面试题:DevOps Interview-Guide中的K8s部署工具解析 【免费下载链接】DevOps-Interview-Guide DevOps Interview Guide 项目地址: https://gitcode.com/GitHub_Trending/de/DevOps-Interview-Guide 在现代DevOps实践中,Kubernetes已…

作者头像 李华
网站建设 2026/8/10 19:22:45

C++享元模式:游戏开发中的内存优化实践

1. 享元模式的核心思想与应用场景 在C游戏开发中,我们经常会遇到需要创建大量相似对象的情况。比如一个MMORPG游戏中,同一片森林里可能有上千棵树,每棵树虽然位置、大小不同,但纹理、模型等内在属性几乎相同。如果为每棵树都完整分…

作者头像 李华