12-1 优化目标
支持向量机算法：SVM
若θ^T*x≥0，h_θ(x)=1；否则为0?
12-2 大间隔的直观理解
支持向量机算法如下：
?SVM可以找到一条间隔更大的决策边界，这段间距称为支持向量机间距
?当C过大时，决策边界为红色曲线；当C较小时，决策边界为黑色曲线。黑色比红色拟合的效果更好
12-3 大间隔分类器的数学原理
（选学知识）
向量u与向量v的内积：
P为v在u上的投影长度，(u^T)v=u1v1+u2v2?
对于SVM：
?
当决策边界为绿色曲线 时，θ为蓝色曲线与决策边界垂直。p值会很小，为了使p||θ||值大于1，就要让||θ||值足够大，但我们的目的是得到最小的θ，因此绿色决策边界线不符合要求。
为了使正负样本（训练样本）投影到θ的值足够大，就会产生大间隔。
?
12-4 核函数（Ⅰ）
?若需拟合一个非线性决策边界，有两种方法：
1.构造复杂特征多项式的集合
设特征多项式中x1=f1，x2=f2......
选取几个标志点
?若x≈l^(1)：f1≈1
若x远离l^(1)：f1≈0
例如：
设定如下一个训练样本：?
?
?
12-5 核函数（Ⅱ）
在获取标记点时，可以直接将训练样本当作标记点
步骤：
·给定训练样本
·选择标记点
?
·给定样本x
?
?SVN参数：
C=1/λ
C过大：低偏差，高方差；C过小：低方差，高偏差
σ^2过大：高偏差，低方差；σ^2过小：低偏差，高方差
?
12-6 使用SVM
?通常使用SVM软件包优化得到参数Θ
当特征数n大于训练样本数m时，使用逻辑回归或线性核函数
若n较小，m值适中，使用高斯核函数的SVM
若n较小，m较大，首先创建更多的特征，之后使用逻辑回归或不带核的SVM
?
?
?
?
?
?