支持向量机
一、是什么：
????????支持向量机是一种经典的二分类模型，基本模型定义为特征空间中最大间隔的线性分类器，其学习的优化目标便是间隔最大化，因此支持向量机本身可以转化为一个凸二次规划求解的问题。
二、?函数间隔与几何间隔
????????对于二分类学习，假设现在的数据是线性可分的，这时分类学习最基本的想法就是找到一个合适的超平面，该超平面能够将不同类别的样本分开，类似二维平面使用ax+by+c=0来表示，超平面实际上表示的就是高维的平面?
????????几何间隔代表的则是数据点到超平面的真实距离。最大间隔指的是几何间隔。
三、?从原始优化问题到对偶问题
????????由于SVM的特殊性，一般我们将原问题变换为它的对偶问题，接着再对其对偶问题进行求解。
- ?一是因为使用对偶问题更容易求解；
- ?二是因为通过对偶问题求解出现了向量内积的形式，从而能更加自然地引出核函数。
????????对偶问题，顾名思义，可以理解成优化等价的问题，更一般地，是将一个原始目标函数的最小化转化为它的对偶函数最大化的问题。
四、核函数
? ? ? ? ? ? ? ??
五、软间隔支持向量机
????????将“软间隔”下产生的对偶问题与原对偶问题对比可以发现：新的对偶问题只是约束条件中的α多出了一个上限C，其它的完全相同，因此在引入核函数处理线性不可分问题时，便能使用与“硬间隔”支持向量机完全相同的方法。?