IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> 李宏毅机器学习——回归 -> 正文阅读

[人工智能]李宏毅机器学习——回归

先给出回归的实际应用例子:

  • 股票预测(stock market forecast)
  • 自动驾驶(self-driving car)
  • 推荐系统(recommendation)

接下来,我们将通过宝可梦进化的例子,来学习认识回归。

1.宝可梦进化的例子

  • step1:选择模型——线性模型
    在这里插入图片描述
    b:表示偏移量
    xi:表示各种特征,如生命值、体重、身高…
    wi:表示各种特征的权重

  • step2:找出最好的function——损失函数

在这里插入图片描述首先,b和w都是未知数,所以在这个函数集合中,包含了成千上万个函数,那么我们怎么知道一个function是好是坏呢?没错,就是损失函数(loss function)
下面这个图是10组training data,this is real data
在这里插入图片描述
xcp:进化前的cp值
y:进化后的cp值
在这里插入图片描述
这就是损失函数的例子,我们可以很容易看出,这是一个最小二乘法的式子。当损失函数越小,说明模型就越好。input:a function,output:how bad it is。

  • step3:gradient descent(梯度下降)
    梯度下降的作用是优化参数w和b。
    当只有一个参数w时:
    在这里插入图片描述
    η:我们可以称为“步长”,或者learning rate。
    由图可知,当w的偏导小于0时,w的值向右移动;当w的偏导大于0时,w的值向左移动,直到不能移动为止,但是好像那不是最小值!还好,在线性模型中我们不会遇到这个问题。
    当有两个的参数的情况:
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    每一条线围成的圈就是等高线,代表损失函数的值,颜色约深的区域代表的损失函数越小
    红色的箭头代表等高线的法线方向

2.进一步优化模型

在这里插入图片描述
当选用一元N次模型时,训练的average error和测试的average error看似都变得更小。但是还要注意一个问题,当我们继续增加幂的次数后,将会出现过拟合问题。如下图
在这里插入图片描述
在这里插入图片描述
当特征量x不再唯一时,如下图
在这里插入图片描述
不同颜色小点,分别表示不同的物种。宝可梦的物种 不同,将对应不同的function。
在这里插入图片描述
在这里插入图片描述
当我们学过信号与系统,将会很容易理解这个式子。假如当输入的xs(表示宝可梦物种)为喷火龙时,那么只有喷火龙的参数有效,其余都为0,这样我们就可以对不同物种进行预测了。
在这里插入图片描述
但是我们的特征参数不止一个,当引入参数过多时我们仍然可能导致结果过拟合。
在这里插入图片描述
在这里插入图片描述

3.正则化(regularization)

在这里插入图片描述
在这里插入图片描述
w 越小,表示function 较平滑的,function输出值与输入值相差不大
在很多应用场景中,并不是 w 越小模型越平滑越好,但是经验值告诉我们 w 越小大部分情况下都是好的。
b的值接近于0 ,对曲线平滑是没有影响

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2021-08-18 12:42:30  更:2021-08-18 12:43:13 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/1 12:25:30-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码