PCA-LPP代码实现

文章目录

PCA-LPP代码实现

0.引言

? 提出集合主成分分析与局部保持嵌入的流形学习特征降维方法。该方法通过结合主成分分析(PCA)与局部保持嵌入(LPP)各自优点，兼具最大化保留数据的全局结构特性与局部结构特性，更利于提取原始数据集中的低维流行有效信息。最后，采用UCI数据集进行降维可视化分析。

1.原理

1.1 PCA目标函数

? PCA的核心是通过投影矩阵A将高维数据降成低维数据，实现数据沿该坐标系的分布方差最大化，能够实现最大化保持数据的全局结构特性，其目标函数如下：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0MhiZuVF-1630931994446)(file:///C:\Users\plw\AppData\Local\Temp\ksohtml15476\wps1.png)]

式中：[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ooxXqtxk-1630931994450)(file:///C:\Users\plw\AppData\Local\Temp\ksohtml15476\wps3.png)],[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3QiMDtJf-1630931994451)(file:///C:\Users\plw\AppData\Local\Temp\ksohtml15476\wps4.png)]。

1.2 LPP目标函数

? 内容

1.3 PCA-LPP原理

? 内容

2.方案验证

clc;clear;close all
load wine;fea=double(wine);gnd=wine_labels;
options = [];
options.Metric = 'Euclidean';
options.NeighborMode = 'KNN';
options.k = 10;
options.t = 1;
options.delta=100;
options.bSelfConnected = 1;
options.WeightMode = 'HeatKernel';
options.ReducedDim = 6;
options.PCARatio = 1;

%%数据预处理——去相关处理
% if ~isfield(options,'PCARatio')
%     [eigvector_PCA, eigvalue_PCA, meanData, new_X] = PCA(fea);
% else
%     PCAoptions = [];
%     PCAoptions.PCARatio = options.PCARatio;
%     [eigvector_PCA, eigvalue_PCA, meanData, new_X] = PCA(fea,PCAoptions);
% end   
% fea= new_X;   %去相关处理后数据集
[W,~] = constructW3(fea,gnd,options);%监督核欧式距离
%W = constructW(fea);%欧氏距离
%[W,~] = constructW2(fea,options);%非监督核欧式距离

%[eigvector1, eigvalue1, meanData, Y]=PCA(fea, options);
%[eigvector2, eigvalue2, Y] = LPP(fea, W, options);
[eigvector3,eigvalue3, Y] = PCALPP(fea,W,options);
    
%%
figure
for i=1:max(gnd)
    n=find(gnd==i);
    plot3(fea(n,1),fea(n,2),fea(n,3),'*')%原始数据
    hold on
    grid on
end
mappedX1=Y;
figure
for i=1:max(gnd)
    n=find(gnd==i);
    plot(mappedX1(n,1),mappedX1(n,2),'*')
    hold on
    grid on
end
figure

for i=1:max(gnd)
    n=find(gnd==i);
    plot3(mappedX1(n,1),mappedX1(n,2),mappedX1(n,3),'*')
    hold on
    grid on
end
legend('1','2','3')

在这里插入图片描述