决策树的原理_决策树特征选择

决策树的原理_决策树特征选择决策树的原理:根据树结构进行决策,可以用于分类和回归。一颗决策树包括一个根结点、若干个内部节点和若干个叶节点。从根节点出发,对每个特征划分数据集并计算信息增益(或者增益率,基尼系数),选择信息增益最大的特征作为划分特征,依次递归,直至特征划分时信息增益很小或无特征可划分,形成决策树。决策树优点1.计算复杂度不高;2.输出结果易于理解;3.不需要数据预处理;4…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

  • 决策树的原理:根据树结构进行决策,可以用于分类和回归。一颗决策树包括一个根结点、若干个内部节点和若干个叶节点。从根节点出发,对每个特征划分数据集并计算信息增益(或者增益率,基尼系数),选择信息增益最大的特征作为划分特征,依次递归,直至特征划分时信息增益很小或无特征可划分,形成决策树。
决策树
优点 1. 计算复杂度不高; 2. 输出结果易于理解; 3. 不需要数据预处理; 4. 对中间值的缺失不敏感; 5. 可以处理不相关特征数据; 6. 对于异常点的容错率高
缺点 1. 可能产生过拟合的现象; 2. 对于比较复杂的关系很难学习; 3. 样本发生一点点变化会导致树的结构剧烈变动
  • 决策树的算法:ID3算法、C4.5算法、CART算法
算法 优缺点
ID3算法 不足: 无法处理连续特征;信息增益使得算法偏向于取值较多的特征;没有考虑缺失值和过拟合的问题。
C4.5算法 优点: 可以处理连续特征,引入增益率校正信息增益,考虑了数据缺失和过拟合的问题;不足: 剪枝方法有优化空间,生成的多叉树运算效率不高,大量对数运算和排序运算很耗时,只能用于分类不能回归。
CART算法 优点: 解决了C4.5算法的不足,可分类可回归;不足: 树的结构会由于样本的小变化发生剧烈变动,特征选择时都是选择最优的一个特征来做分类决策。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/197767.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • pycharm最新激活码2021(最新序列号破解)

    pycharm最新激活码2021(最新序列号破解),https://javaforall.net/100143.html。详细ieda激活码不妨到全栈程序员必看教程网一起来了解一下吧!

    2022年3月19日
    104
  • 基于Windows的安全帽识别算法「建议收藏」

    基于Windows的安全帽识别算法「建议收藏」现如今越来越重视安全生产,各个企业也都采取各种措施保障员工的安全生产从而保障了企业的利益。但是依然存在着在岗工人不佩戴安全帽从事危险作业,未佩戴安全帽作业而造成的伤亡时有发生。安全帽佩戴管理成为一大难点,为降低管理难度提高在岗人员安全意识,可在各种生产现场部署安全帽识别仪实时视频检测预警在岗工人是否按照要求做好安全防范措施作业。真正做到安全生产信息化管理,做到事前预防事中常态监测,事后规范管理。…

    2022年5月19日
    39
  • 程序猿接私活经验总结,来自csdn论坛语录

    程序猿接私活经验总结,来自csdn论坛语录

    2021年11月15日
    29
  • NSGA-II入门

    NSGA-II入门NSGA-II入门C1觉得有用的话,欢迎一起讨论相互学习~FollowMe参考文献1参考文献2白话多目标多目标中的目标是个瓦特?多目标即是优化问题中的优化目标在3个及以上,一般这些优化的目标都存在着矛盾,例如:我要买一个又便宜又漂亮又性能好的车的时候,价格,外观,性能这就是一个典型的多目标问题,我们必须在商品的价格,外观和性能上做出取舍,毕竟外观漂亮性能强劲的车型往往意味着…

    2022年5月12日
    108
  • mysql 获取分区的最大值_MySQL分区表测试「建议收藏」

    mysql 获取分区的最大值_MySQL分区表测试「建议收藏」MYSQL分区表功能测试。1.查看Mysql版本是否支持分区SHOWVARIABLESLIKE’%partition%’;+——————-+——-+|Variable_name|Value|+——————-+——-+|have_partitioning|YES|+——————…

    2022年6月1日
    88
  • FileStream Close「建议收藏」

    FileStream Close「建议收藏」           FileStreamf=newFileStream(“hou.txt”,FileMode.Create,FileAccess.ReadWrite);           StreamWriterwf=newStreamWriter(f);           wf.Write(“Helloworld!”);           wf.Close();

    2022年7月21日
    7

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号