IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> [集成学习]task02:回归问题 -> 正文阅读

[人工智能][集成学习]task02:回归问题

[集成学习]task02:回归问题

  • 线性回归模型
    求解线性回归模型的参数:
    构建一个含有参数的 Loss Function,求解使得 Loss Function最小的参数的值。
    一般的 Loss Function的形式有:
    在这里插入图片描述求参数值的方法:
    (1)最小二乘估计
    以估计值与真实值差的平方的和为 Loss Function,对 Loss Function求关于参数的导数,得到 Loss Function取极小值时参数所对应的值。
    (2)几何法

(3)极大似然估计
假设噪声的分布已知,通过噪声的分布构造似然函数,通过求似然函数的极值求解参数的值。

  • 线性模型的推广
    对于分布是非线性的数据,我们可以采取以下几种方法进行建模。
    (1)多项式回归
    注:多项式的阶数不能过高,若多项式的阶数过高,会产生过拟合的现象,使得模型缺乏泛型。
    (2)GAM模型
    (3)回归树模型
    在这里插入图片描述

(4)支持向量机回归(SVR)

作业

在这里插入图片描述
(2)极大似然估计与最小二乘估计的联系与区别
区别:在极大似然估计中,要假设噪声服从正态分布,只有在已知分布的情况下,才能够构造出似然函数。而在最小二乘估计中不需要做出假设。
联系:极大似然估计与最小二乘估计的结果相同。
(3)为什么多项式回归在实际问题中的表现经常不是太好?
多项式回归模型次数越高,曲线就越光滑,在边界处的置信区间增大,预测效果的稳定性降低
(5)什么是KKT条件?
在这里插入图片描述
(6)为什么要引入原问题的对偶问题?
对偶问题是一个凸优化问题,凸优化问题在最优化理论较为简单。
(7)

参考:
[1] https://github.com/datawhalechina/ensemble-learning

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2021-07-16 21:59:15  更:2021-07-16 21:59:19 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年12日历 -2024/12/22 10:25:07-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码