IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 数据结构与算法 -> 决策树-- -> 正文阅读

[数据结构与算法]决策树--

叶结点对应于决策结果,其他每个结点对应于一个属性测试;根节点到每个叶节点的路径对应了一个判定测试序列。

信息增益:

?设属性a有V个可能的取值,用a对样本集D进行划分获得“信息增益”:

?一般而言,信息增益越大则意味使用属性a进行划分所获得的“纯度提升”越大。

增益率:

实际上,信息增益准则对科鼩属之数目较多的属性有所偏好,因此使用“增益率”来选择最优划分属性:

称为属性a的“固有值:。?

?注意:增益率对可取数目较少的属性有所偏好,因此可先从候选划分属性中找出信息增益高于平均水平的属性,再从中选择增益率最高的。

基尼指数:

数据集D的纯度用基尼度表示:

基尼指数反映了从数据集D中随机抽取两个样本,其类别表及不一致的概率(Gini(D)越小,数据集D的纯度越高 )

?属性a的基尼指数定义:

?因此在侯选属性集合中选择使得划分后基尼指数最小的属性作为最优化分属性。

?剪枝处理:

1)预剪枝:使得决策树的很多分支都没有”展开“,不仅降低了过拟合的风险,还显著减少了决策树的训练时间开销和测试时间开销;但有些分支当前划分虽不能提升划分性能,但在其基础上进行的后续划分却有可能导致性能提高。预剪枝基于”贪心“本质禁止这些分支展开给预剪枝决策树带来了欠拟合的风险。

2)后剪枝:一般情况下,后剪枝决策树的欠拟合风险小,但简直过程是在生成完全决策树之后进行的,并且要自底向上地对树中所有非叶结点进行逐一考察,因此训练时间开销大。

连续值处理:连续属性的可取值数目不再有限,不能直接根据连续属性的可取值进行划分,采用连续属性离散化技术。采用二分法对连续属性进行处理:给定样本集D和连续属性a,a在D上出现了n个不同的去取值,将值从小到大排序记为{a1,a2,...,an},把任意相邻区间[ai,ai+1)的中位点作为候选划分点,此时可像离散属性值来考察这些划分点:

  数据结构与算法 最新文章
【力扣106】 从中序与后续遍历序列构造二叉
leetcode 322 零钱兑换
哈希的应用:海量数据处理
动态规划|最短Hamilton路径
华为机试_HJ41 称砝码【中等】【menset】【
【C与数据结构】——寒假提高每日练习Day1
基础算法——堆排序
2023王道数据结构线性表--单链表课后习题部
LeetCode 之 反转链表的一部分
【题解】lintcode必刷50题<有效的括号序列
上一篇文章      下一篇文章      查看所有文章
加:2021-08-27 12:07:09  更:2021-08-27 12:09:29 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年12日历 -2024/12/29 7:41:46-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码
数据统计