SVM支持向量机原理详解

SVM支持向量机原理详解支持向量机 SVM SupportVecto 1 解决问题思路展开 要解决的问题 什么样的决策边界才是最好的 特征数据本身如果就很难分 该怎么办 计算负责度怎么样 能否实际应用 gt 目标 基于上述问题对 SVM 进行推导 1 1 决策边界右图中的决策边界更具容忍度 更加可靠 1 2 通过距离获得决策边界 求取点到面的距离 通过平面上两点可以得到平面的法向量 进而获得与法相量平行的单位方向向量 通过平面外一点 X 到平面上一点 x 的距离 D 在单位方向向量的投影可以求出距离 d

支持向量机SVM(Support Vector Machine)

1.解决问题思路展开

==>目标:基于上述问题对SVM进行推导

1.1决策边界

SVM支持向量机原理详解
右图中的决策边界更具容忍度,更加可靠

1.2 通过距离获得决策边界(求取点到面的距离)

在这里插入图片描述
通过平面上两点可以得到平面的法向量,进而获得与法相量平行的单位方向向量,通过平面外一点X到平面上一点x’的距离D在单位方向向量的投影可以求出距离d,其中,D乘以单位向量为与图中dist重合的向量,取其模即为距离d,计算公式如下:
在这里插入图片描述

1.3 数据标签定义,SVM为一种有监督算法

在这里插入图片描述

1.4 目标函数推导

在这里插入图片描述
中间涉及缩放、极大值与极小值相互转换、对偶性(了解即可)
在这里插入图片描述

2.目标函数推导过程

2.1 拉格朗日乘子法求解

在这里插入图片描述
先求出​​​​​​​alpha,进而求出w和b
在这里插入图片描述
在这里插入图片描述


2.2 化简最终目标函数

在这里插入图片描述
在这里插入图片描述

2.3 举例求解决策方程

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述


3. SVM特色

3.1 软间隔优化

3.2 核函数(低维->高维)

在这里插入图片描述
通过核函数将低维数据映射到高维空间
在这里插入图片描述
在这里插入图片描述
多数情况下大都用高斯核函数:将原始特征映射成高斯空间中的距离特征
在这里插入图片描述




先这样吧,代码后续更新呢

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/178195.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月26日 下午5:49
下一篇 2026年3月26日 下午5:49


相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号