现在假设这个超平面能够将样本正确分类，只不过这个超平面的w和b值我们不知道，这正是我们要求的，但是这个平面是一定存在的，有：
将几何距离r式中的分子绝对值和分母拿掉以后（因为都为正）剩下的wT+b是能够判断出样本为+1还是-1类别的部分，定义函数距离（很重要）为：
函数距离就是样本类别乘wT+b。因为正样本类别为+1，且wT+b也为正；负样本类别为-1且wT+b为负。所以函数距离只有大小没有方向。
函数距离就相当于几何距离的分子部分，在所有样本中每一个点都有一个函数距离和一个几何距离，几何距离是可观测到的直接的距离，函数距离具有如下性质：一个点到超平面的函数距离取决于这个超平面的法向量和b值，同一个超平面可以有多组w和b值，但每组值成比例。w和b值不同，点的函数距离也不同。
三维空间举例:
现有两个平面2x+3y+4z+2=0 与 4x+6y+8z+4=0
有点：x（1,1,1）
则点到平面的函数距离分别为：11,22。 但平面实质为一个平面，只有w和b值不同，也就是说我们可以通过放缩w和b值，来控制函数距离！！！
重点：支持向量机数学模型原理，其实就是通过控制函数距离来求得最大几何距离。也就是函数距离为约束条件，几何距离为目标函数。具体往下看：
通过放缩w和b,让两类中某一类点距超平面的函数距离分别为1（离超平面的距离相等，为1方便后续计算）。
W和b值未知，但总存在一组值满足上述。如图：
中间最粗的平面为我们要求的超平面，两边的虚线为支撑平面，支撑平面上的点就是支持向量，通过放缩超平面的w和b值，使支持向量到超平面的函数距离为1，支持向量是距超平面最近的点，所以其他向量点到超平面的函数距离一定大于等于1。其实这时候就可以建立最初的模型了，为：
解释一下这个模型，首先先不看目标函数，先看约束条件，约束添加表达的是所有样本点到超平面的距离要大于等于1，在支撑平面上的为1，其他的大于1，根据约束条件其实可以得到无数个平面，如下面两个：
但是，在这些平面中我们需要的是泛华能力最好，鲁棒性最强的那一个，也就是最宽的那一个（margin最大），这时候就需要通过定义目标函数来求得，宽度最大也就是几何距离最大，几何距离的分子是函数距离，而两个支撑平面的函数距离我们定义完了是2，所以才有了上面的数学模型。
总有 
和 
前者意味着向量点根本不会在求和中出现，后者意味着向量在支撑平面上，是一个支撑向量，训练完成后大部分样本都不需要保留。也就是训练完后大部分拉格朗日乘子都为零，只有在支撑平面上的样本的拉格朗日乘子不为0。
至此，已经对支持向量机有一个基本认识，以上数学推理为支持向量机的硬间隔。记住这个模型：
支持向量机的软间隔、核函数方法、支持向量回归都是在这个模型的基础上的。上面讲的是样本完全线性可分，但是实际中，不可分的情况多谢，如果是线性不可分的如：
需要把数据映射到更高维空间，这时候用到核函数。
如果数据有噪声如：
那么用到的是支持向量机的软间隔。
如果你不是分类数据而是要有监督的预测数据，那么就是支持向量回归。
软间隔、核函数、支持向量回归我会以后写出来。
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/178093.html原文链接：https://javaforall.net
