核PCA投影平面公式推导

样本方差推导样本方差公式$$S=\frac{1}{n1}\sum_{i=1}^n(x_i\mu_i)^2$$扩展开来得到$$S=\frac{1}{n1}[(X\frac{1}{n}

大家好,又见面了,我是全栈君,今天给大家准备了Idea注册码。

样本方差推导

样本方差公式$$S = \frac{1}{n-1}\sum_{i=1}n(x_i-\mu_i)2$$

扩展开来得到$$S = \frac{1}{n-1}[(X-\frac{1}{n}XTI_nI_nT)T(X-\frac{1}{n}XTI_nI_n^T)]$$

\[S = \frac{1}{n-1}X^T(I_n – \frac{1}{n}I_nI_n^T)(I_n – \frac{1}{n}I_nI_n^T)X \]

\(H = I_n – \frac{1}{n}I_nI_n^T\)得$$S = \frac{1}{n-1}X^THX$$

其中H为等幂矩阵HH=H和中心矩阵\(H_n*I_n = 0\)

核PCA推导

核函数:设X是输入空间(\(R^n\)的子集或离散子集),又F为特征空间(希尔伯特空间),如果存在一个从X到F的隐射$$\phi (X):X -> F$$使得对所有x,z\in X,函数K(x,z)满足条件$$K(x,z) = \phi (x)\bullet \phi (z)$$

下面推导F投影到的主成分定义的平面,根据F样本方差的特征值分解得(为推导方便去掉前面的(\(\frac{1}{n-1}\))$$F^THFV_i = \lambda _i V_i$$由于H为等逆矩阵,则$$F^THHFV_i = \lambda _i V_i$$

由于想得到F很难,我们换一种思路将求F转移求K上,根据AAT与ATA的关系:非零特质值相同,得到$$HFF^THU_i = \lambda _iU_i $$

两边同时乘以\(F^TH\)得到$$FTHHFFTHU_i = \lambda _iF^THU_i$$

从上式可以得到\(F^THU_i\)\(F^THHF\)的特征向量

\(F^THU_i\)进行归一化$$U_{normal} = \frac{FTHU_i}{{||U_iTHFF^THU_i||}_2}$$

由于\(HFF^TH = HKH = \lambda _i\),则$$U_{normal} = \lambda {-\frac{1}{2}}FTHU_i$$

F投影到\(U_normal\)定义的平面$$P = F_{center} U_{normal}$$

\[P= (F-\frac{1}{n}\sum_{i=1}^nF_i)(\lambda ^{-\frac{1}{2}}F^THU_i) \]

\[P= (F-\frac{1}{n}F^TI_n)(\lambda ^{-\frac{1}{2}}F^THU_i) \]

\[P= \lambda ^{-\frac{1}{2}}(K – \frac{1}{n}K(x,x_i))HU_i \]

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/120025.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • centos7.2安装rabbitmq和宝塔[通俗易懂]

    centos7.2安装rabbitmq和宝塔[通俗易懂]centos7.2安装rabbitmq和宝塔

    2022年4月23日
    48
  • RO38 –比较RemObjects SDK 通道「建议收藏」

    RO38 –比较RemObjects SDK 通道「建议收藏」 RO38–比较RemObjectsSDK通道                                  本文汇总了RemObjectsSDK提供的通道:最通用的通道1)HTTP通道:使用www超文本传输协议的灵活,网络无关的通信.2)SuperTCP通道:在客户端服务端灵活通用的双向传输

    2022年7月15日
    14
  • 【转载】编译型语言、解释型语言、静态类型语言、动态类型语言概念与区别

    【转载】编译型语言、解释型语言、静态类型语言、动态类型语言概念与区别

    2021年11月18日
    36
  • 如何系统备份ghost_服务器可以用pe备份吗

    如何系统备份ghost_服务器可以用pe备份吗电脑出现系统故障是一个很正常的现象,在这个时候只能通过重组系统的方法来解决故障,如果我们此前有将正常的系统备份到U盘里面那么重装系统就会变得很简单,接下来就教给大家怎样用GHOST备份系统。1、首先把装有一键GHOST装系统的U盘插在电脑上,然后打开电脑马上按F2或DEL键入BIOS界面,然后就选择BOOT打USDHDD模式选择好,然后按F10键保存,电脑就会马上重启。2、重启后电脑就会进入一键…

    2022年9月6日
    2
  • hashlib

    hashlib使用Python中的hashlib来进行hash加密是非学简单的,下面是一段简单代码:[python] viewplaincopyimport hashlib  md5 = hashlib.md5() #创建一个MD5加密对象  md5.update(“JGood is a handsome boy”)  #更新要加密的数据  prin

    2022年4月27日
    48
  • 慎用域名url转发功能_url转发域名可以带端口吗

    慎用域名url转发功能_url转发域名可以带端口吗许多域名注册商或虚拟主机商都提供一种免费的URL转发功能,让拥有一个主网站并同时拥有多个域名的用户实现多个域名指向同一个网站或网站子目录,但具体是通过什么机制实现的则大都讳忌莫深,往往只说“通过服务器的特殊技术设置”。同时,大多数服务商提供的URL转发还包括两种,不隐藏路径的URL转发与隐藏路径的URL转发,其中,不隐藏路径的URL转发指在跳转后浏览器地址栏显示真正的目标地址,而隐藏路径的URL转…

    2022年10月18日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号