偏最小二乘法matlab编程.doc

一、起源与发展偏最小二乘法(partial least squares method, PLS)是一种新型的多元统计数据分 析方法，它于1983年由伍德(S.Wold)和阿巴诺(C.Albano)等人首次提出其实在 早在70年代伍德(S.Wold)的父亲H Wold便在经济学研究中引入了偏最小二乘法 进行路径分析，创建了非线性迭代偏最小二乘算法 (Nonlinear Iterative Partial Least Squares algorithm， NIPALS)，至今仍然是PLS中最常用和核心的算法PLS 在 20 世纪90 年代引入中国，在经济学、机械控制技术、药物设计及计量化 学等方面有所应用，但是在生物医学上偏最小二乘法涉及相对较少对该方法的 各种算法和在实际应用中的介绍也不系统，国内已有学者在这方面做了一些努 力，但作为一种新兴的多元统计方法，还不为人所熟知PLS 是一种数学优化技术，它通过最小化误差的平方和找到一组数据的最佳函数 匹配用最简的方法求得一些绝对不可知的真值，而令误差平方之和为最小通 常用于曲线拟合有人用下式来形容 PLS：偏最小二乘回归~多元线性回归分析+典型相关分析+主成分分析二、特点：与传统多元线性回归模型相比，偏最小二乘回归的特点是：(1) 能够在自变量存在严重多重相关性的条件下进行回归建模；(2) 允许在样本点个数少于变量个数的条件下进行回归建模；(3) 偏最小二乘回归在最终模型中将包含原有的所有自变量；(4) 偏最小二乘回归模型更易于辨识系统信息与噪声(甚至一些非随机性的 噪声)；(5) 在偏最小二乘回归模型中，每一个自变量的回归系数将更容易解释。

偏最小二乘法的 Matlab 源码(2008-09-21 09:31:21) 所谓偏最小二乘法，就是指在做基于最小二乘法的线性回归分析之前，对数据集 进行主成分分析降维，下面的源码是没有删减的)function [y5,e1,e2]=PLS(X,Y,x,y,p,q) %% 偏最小二乘回归的通用程序 % 注释以“基于近红外光谱分析的汽油组分建模”为例，但本程序的适用范围绝不仅限于此 % % 输入参数列表% X 校正集光谱矩阵，nXk的矩阵，n个样本，k个波长% Y 校正集浓度矩阵，nXm的矩阵，n个样本，m个组分% x 验证集光谱矩阵% y 验证集浓度矩阵% p X 的主成分的个数，最佳取值需由其它方法确定% q Y 的主成分的个数，最佳取值需由其它方法确定 %% 输出参数列表% y5 x 对应的预测值( y 为真实值)% e1 预测绝对误差，定义为 e1=y5-y% e2 预测相对误差，定义为 e2=|(y5-y)/y|%%第一步：对X,x,Y,y进行归一化处理[n,k]=size(X);m=size(Y,2);Xx=[X;x];Yy=[Y;y];xmin=zeros(1,k);xmax=zeros(1,k);for j=1:kxmin(j)=min(Xx(:,j));xmax(j)=max(Xx(:,j));Xx(:,j)=(Xx(:,j)-xmin(j))/(xmax(j)-xmin(j));endymin=zeros(1,m);ymax=zeros(1,m);for j=1:mymin(j)=min(Yy(:,j));ymax(j)=max(Yy(:,j));Yy(:,j)=(Yy(:,j)-ymin(j))/(ymax(j)-ymin(j));endX1=Xx(1:n,:);x1=Xx((n+1):end,:);Y1=Yy(1:n,:);y1=Yy((n+1):end,:);%% 第二步：分别提取 X1 和 Y1 的 p 和 q 个主成分，并将 X1,x1,Y1,y1 映射到 主成分空间[CX,SX,LX]=princomp(X1);[CY,SY,LY]=princomp(Y1);CX=CX(:,1:p);CY=CY(:,1:q);X2=X1*CX;Y2=Y1*CY;x2=x1*CX;y2=y1*CY;%%第三步：对X2和Y2进行线性回归B=regress(Y2,X2,0.05);%第三个输入参数是显著水平，可以调整%% 第四步：将 x2 带入模型得到预测值 y3y3=x2*B;%%第五步：将y3进行“反主成分变换”得到y4y4=y3*pinv(CY);%%第六步：将y4反归一化得到y5for j=1:my5(:,j)=(ymax(j)-ymin(j))*y4(:,j)+ymin(j);end%% 第七步：计算误差 e1=y5-y;e2=abs((y5-y)./y);function [MD,ERROR,PRESS,SECV,SEC]=ExtraSim1(X,Y)%% 基于 PLS 方法的进一步仿真分析%% 功能一：计算 MD 值，以便于发现奇异样本%% 功能二：计算各种 p 取值情况下的 ERROR,PRESS,SECV,SEC 值，以确定最 佳输入变量个数[n,k]=size(X);m=size(Y,2);pmax=n-1;q=m;ERROR=zeros(1,pmax);PRESS=zeros(1,pmax);SECV=zeros(1,pmax);SEC=zeros(1,pmax);XX=X;YY=Y;N=size(XX,1);for p=1:pmaxdisp(p);Errl=zeros(l,N);% 绝对误差Err2=zeros(l,N);% 相对误差for i=l:Ndisp(i);if i==lx=XX(l,:);y=YY(l,:);X=XX(2:N,:);Y=YY(2:N,:);elseif i==Nx=XX(N,:);y=YY(N,:);X=XX(l:(N-l),:);Y=YY(l:(N-l),:);elsex=XX(i,:);y=YY(i,:);X=[XX(l:(i-l),:);XX((i+l):N,:)];Y=[YY(l:(i-l),:);YY((i+l):N,:)];end[y5,el,e2]=PLS(X,Y,x,y,p,q);Err1(i)=e1;Err2(i)=e2; endERROR(p)=sum(Err2)/N;PRESS(p)=sum(Errl.人2);SECV(p)=sqrt(PRESS(p)/n);SEC(p)=sqrt(PRESS(p)/(n-p)); end%% [CX,SX,LX]=princomp(X);S=SX(:,l:p);MD=zeros(l,n);for j=l:ns=S(j,:);MD(j)=(s')*(inv(S'*S))*(s); end。