文章目录
机器学习介绍
- 主要包括监督学习、半监督学习、迁移学习、无监督学习、强化学习；
- 监督学习包括回归、分类、结构化学习（没有见过）；
- ML包括DL；
回归
模型步骤
- step1：模型假设，选择模型框架（线性模型）
- step2：模型评估，如何判断众多模型的好坏（损失函数）
- step3：模型优化，如何筛选最优的模型（梯度下降）
模型假设 - 线性模型
一元线性模型（单个特征）
多元线性模型（多个特征）
y
=
w
?
x
+
b
y=w*x+b
y=w?x+b
模型评估 - 损失函数
L ( w , b ) = ∑ n = 1 10 ( y ^ n ? ( b + w ? x c p ) ) 2 L(w,b)=\sum_{n=1}^{10}\left(\hat{y}^n - (b + w·x_{cp}) \right )^2 L(w,b)=n=1∑10?(y^?n?(b+w?xcp?))2
最佳模型 - 梯度下降
- 逐层反向求导
- 在线性回归中，损失函数L是收敛的，即：没有局部最优，线性函数的等高线如下（用于理解）：
- GD的问题
- 问题1：当前最优（Stuck at local minima）
- 问题2：等于0（Stuck at saddle point）
- 问题3：趋近于0（Very slow at the plateau）
验证模型好坏
过拟合问题
解决方法：正则化
欲使损失函数L取值小，则w需要小，从而L的变化小，使得L在变化的过程中较为平滑。
正则化项中，无需加上偏置b，因为b相当于对损失函数图像进行上下平移。
要选择合适的λ，如果过大，使得损失函数L过于平滑，什么都学不到，测试时的误差自然大。
KaTeX数学公式
您可以使用渲染LaTeX数学表达式 KaTeX:
Gamma公式展示 Γ ( n ) = ( n ? 1 ) ! ? n ∈ N \Gamma(n) = (n-1)!\quad\forall n\in\mathbb N Γ(n)=(n?1)!?n∈N 是通过欧拉积分
Γ ( z ) = ∫ 0 ∞ t z ? 1 e ? t d t ? . \Gamma(z) = \int_0^\infty t^{z-1}e^{-t}dt\,. Γ(z)=∫0∞?tz?1e?tdt.
你可以找到更多关于的信息 LaTeX 数学表达式here.
新的甘特图功能，丰富你的文章
- 关于 甘特图 语法，参考 这儿,
UML 图表
可以使用UML图表进行渲染。 Mermaid. 例如下面产生的一个序列图：
这将产生一个流程图。:
- 关于 Mermaid 语法，参考 这儿,
FLowchart流程图
我们依旧会支持flowchart的流程图：
- 关于 Flowchart流程图 语法，参考 这儿.
导出与导入
导出
如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到 文章导出 ，生成一个.md文件或者.html文件进行本地保存。
导入
如果你想加载一篇你写过的.md文件，在上方工具栏可以选择导入功能进行对应扩展名的文件导入，
继续你的创作。