回归定义
回归(Regression)就是找到一个函数function,通过输入特征x,输出一个数值Scalar。
应用举例
(1)股市预测(Stock market forecast)
- 输入:过去几年股票的变动、新闻咨询、公司并购咨询等
- 输出:预测股市明天的平均值
(2)自动驾驶(Self-driving Car) - 输入:无人车上的各个传感器(sensor)的数据,例如路况、车距等
- 输出:方向盘的角度
(3)商品推荐(Recommendation) - 输入:商品A的特性,商品B的特性
- 输出:购买商品A的可能性或购买商品B的可能性
(4)Pokemon精灵攻击力预测 - 输入:进化前的CP值、物种(Bulbasaur)、血量(HP)、重量(Weight)、高度(Height)
- 输出:进化后的CP值
模型步骤
- step1:模型假设,选择模型框架(线性模型)
- step2:模型评估,如何判断众多模型的好坏(损失函数)
- step3:模型优化,如何筛选最优的模型(梯度下降)
Step1:模型假设–线性模型
一元线性模型(单个特征)
以一个特征Xcp为例,线性模型假设 y = b + w · Xcp,所以w和b根据实际情况可以猜测很多模型。
多元线性模型(多个特征)
实际应用中,输入特征肯定不止一个。例如,进化前的CP值、物种(Bulbasaur)、血量(HP)、重量(Weight)、高度(Height)等,特征会有很多。?
Step2:模型评估–损失函数
以单个特征为例,我们会使用损失函数(Loss function)来衡量模型的好坏。
Step3:最佳模型–梯度下降
|