主成分分析简单例子

全栈程序员-站长 • 2026年3月17日上午10:21 • 未分类 • 阅读 2

一、数据降维

对于现在维数比较多的数据，我们首先需要做的就是对其进行降维操作。降维，简单来说就是说在尽量保证数据本质的前提下将数据中的维数降低。降维的操作可以理解为一种映射关系，例如函数 $z=f\left ( x,y \right )$ ，即由原来的二维转换成了一维。处理降维的技术有很多种，如前面的
SVD奇异值分解，主成分分析(PCA)，因子分析(FA)，独立成分分析(ICA)等等。

二、PCA的概念

PCA是一种较为常用的降维技术，PCA的思想是将

维特征映射到

维上，
这

维是全新的正交特征。这

维特征称为主元，是重新构造出来的主成分分析简单例子

维特征。在PCA中，数据从原来的坐标系转换到新的坐标系下，新的坐标系的选择与数据本身是密切相关的。其中，第一个新坐标轴选择的是原始数据中方差最大的方向，第二个新坐标轴选取的是与第一个坐标轴正交且具有最大方差的方向，依次类推，我们可以取到这样的主成分分析简单例子

个坐标轴。

三、PCA的操作过程

1、PCA的操作流程大致如下：

去平均值，即每一位特征减去各自的平均值
计算协方差矩阵
计算协方差矩阵的特征值与特征向量
对特征值从大到小排序
保留最大的个特征向量
将数据转换到个特征向量构建的新空间中

2、具体的例子

假设二维数据为

取平均值

我们计算每一维特征的平均值，并去除平均值，我们计算出均值主成分分析简单例子为

去除均值后的矩阵为

计算的协方差矩阵

计算的特征值与特征向量

其中，特征值为

特征向量为

对特征值进行排序，显然就两个特征值
选择最大的那个特征值对应的特征向量

转换到新的空间

$finalData_{10\times 1}=dataAdjust_{10\times 2}\times eigenVctor_{2\times 1}$

四、实验的仿真

我们队一个数据集进行了测试：

MATLAB实验代码如下：

主程序

[plain]  view plain   copy 

 %% pca  
   
 dataSet = load(‘testSet.txt’);%导入数据  
   
 % pca  
 [FinalData, reconData] = PCA(dataSet, 1);  
   
 %% 作图  
 hold on  
 plot(dataSet(:,1), dataSet(:,2), ‘.’);  
 plot(reconData(:,1), reconData(:,2), ‘.r’);  
 hold off

PCA函数段

[plain]  view plain   copy 

    
 function [ FinalData,reconData ] = PCA( dataSet, k )  
     [m,n] = size(dataSet);  
   
    %% 去除平均值  
     %取平均值  
     dataSetMean = mean(dataSet);  
     %减去平均值  
     dataSetAdjust = zeros(m,n);  
     for i = 1 : m  
         dataSetAdjust(i , :) = dataSet(i , :) – dataSetMean;  
     end  
   
     %% 计算协方差矩阵  
     dataCov = cov(dataSetAdjust);  
   
     %% 计算协方差矩阵的特征值与特征向量  
     [V, D] = eig(dataCov);  
       
     % 将特征值矩阵转换成向量  
     d = zeros(1, n);  
     for i = 1:n  
         d(1,i) = D(i,i);  
     end  
       
     %% 对特征值排序  
     [maxD, index] = sort(d);  
       
     %% 选取前k个最大的特征值  
     % maxD_k = maxD(1, (n-k+1):n);  
     index_k = index(1, (n-k+1):n);  
     % 对应的特征向量  
     V_k = zeros(n,k);  
     for i = 1:k  
         V_k(:,i) = V(:,index_k(1,i));  
     end  
       
     %% 转换到新的空间  
     FinalData = dataSetAdjust*V_k;  
       
     % 在原图中找到这些点  
     reconData = FinalData * V_k’;  
     for i = 1 : m  
         reconData(i , :) = reconData(i , :) + dataSetMean;  
     end  
 end  

发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/225006.html原文链接：https://javaforall.net

主成分分析简单例子

一、数据降维

二、PCA的概念

三、PCA的操作过程

1、PCA的操作流程大致如下：

2、具体的例子

四、实验的仿真

关于作者

全栈程序员-站长

发表回复

主成分分析简单例子

一、数据降维

二、PCA的概念

三、PCA的操作过程

1、PCA的操作流程大致如下：

2、具体的例子

四、实验的仿真

关于作者

全栈程序员-站长

相关推荐

Kimi-Dev-72B：月之暗面如何用720亿参数“驯服”代码世界？

java虚拟机内存分配_深入理解java虚拟机第二版

python构建配对t检验（Paired Student’s t-test）

rider 激活码分享【2021.10最新】

【回溯法】－－01背包问题

linux播放音乐，录音命令—–arecord,aplay

发表回复