基于PCA人脸特征提取与识别.doc

.工程设计报告设计题目：基于PCA的人脸特征抽取及识别学 院： 电子工程学院 专 业： 智能科学与技术 姓名： 钟佩 学号： 02085156 时 间： 2011年11月 指导教师： 缑水平 目录摘要 31．PCA进展特征抽取和识别的方法及理论根底 31.1 K-L 变换 31.2 利用 PCA 进展人脸识别 41.3 PCA 的理论根底 41.3.1 投影 41.3.2 PCA 的作用及其统计特性 51.3.3 特征脸 61.3.4 图片重建 71.3.5 奇异值分解〔SVD〕 71.3.6 利用小矩阵计算大矩阵特征向量 81.3.7 图片归一化 82．结果 91.识别率 92.特征脸 93.人脸重构 103．参考文献 104 附录—matlab 源码 114.1 人脸识别 114.2 特征人脸 124.3 人脸重建 14 摘要对于一幅图像可以看作一个由像素值组成的矩阵，也可以扩展开，看成一个矢量，如一幅N*N 象素的图像可以视为长度为N2 的矢量，这样就认为这幅图像是位于N2 维空间中的一个点，这种图像的矢量表示就是原始的图像空间，但是这个空间仅是可以表示或者检测图像的许多个空间中的一个。

不管子空间的具体形式如何，这种方法用于图像识别的根本思想都是一样的，首先选择一个适宜的子空间，图像将被投影到这个子空间上，然后利用对图像的这种投影间的某种度量来确定图像间的相似度，最常见的就是各种距离度量在本文中，我们将讨论PVA算法来对人脸进展特征抽取和识别1．PCA进展特征抽取和识别的方法及理论根底1.1 K-L 变换PCA 方法是由Turk 和Pentlad 提出来的，它的根底就是Karhunen-Loeve 变换(简称KL变换)，是一种常用的正交变换下面我们首先对K-L 变换作一个简单介绍:假设X 为n 维的随机变量，X 可以用n 个基向量的加权和来表示:式中: αi 是加权系数，φi 是基向量，此式还可以用矩阵的形式表示:取基向量为正交向量，即那么系数向量为：α = ΦT X综上所述，K-L 展开式的系数可用以下步骤求出:步骤一求随即向量X 的自相关矩阵，由于没有类别信息的样本集的μ 均值向量，常常没有意义，所以也可以把数据的协方差矩阵作为K-L 坐标系的产生矩阵，这里μ 是总体均值向量步骤二 求出自相关矩阵或协方差矩阵R 的本征值 和本征向量，步骤三 展开式系数即为α = ΦT XK_L 变换的实质是建立了一个新的坐标系，将一个物体主轴沿特征矢量对齐的旋转变换，这个变换解除了原有数据向量的各个分量之间相关性，从而有可能去掉那些带有较少信息的坐标系以到达降低特征空间维数的目的。

1.2 利用 PCA 进展人脸识别完整的PCA 人脸识别的应用包括几个步骤：人脸图像预处理；读入人脸库，训练形成特征子空间；把训练图像和测试图像投影到上一步骤中得到的子空间上；选择一定的距离函数进展识别下面详细描述整个过程〔源码见’faceRec.m’〕1. 读入人脸库归一化人脸库后，将库中的每人选择一定数量的图像构成训练集，其余构成测试集设归一化后的图像是n*m,按列相连就构成N=n*m 维矢量，可视为N 维空间中的一个点，可以通过K-L 变换用一个低维子空间描述这个图像2. 计算 K- L 变换的生成矩阵所有训练样本的协方差矩阵为〔以下三个等价〕： 是平均人脸, M 训练人脸数，协方差矩阵 CA 是一个N*N的矩阵, N 是xi的维数为了方便计算特征值和特征向量，一般选用第2个公式根据K - L 变换原理，我们所求的新坐标系即由矩阵A·AT 的非零特征值所对应的特征向量组成直接求N*N大小矩阵CA 的特征值和正交归一特征向量是很困难的, 根据奇异值分解原理〔见段落和〕，可以通过求解AT·A的特征值和特征向量来获得AT·A的特征值和特征向量在计算得到 CA 的所有非零特征值〔从大到小排序，1 ≤ r < M 〕及其对应的单位正交特征向量 后，可以得到特征空间，从而可以计算一张图片X在特征空间上的投影系数〔也可以理解为X在空间U中的坐标〕：3. 识别利用公式〔2〕，首先把所有训练图片进展投影，然后对于测试图片也进展同样的投影，采用判别函数对投影系数进展识别。

1.3 PCA 的理论根底1.3.1 投影设d 维样本x1， x 2，… , xn ，以及一个d 维基w ，那么标量：yi =wT xi是相当于xi在基上的坐标值如果w = 1 , yi就是把i x 向方向为w 的直线进展投影的结果，可以从图 1 看到推广之，如果有一组基〔m 个〕组成的空间，那么可以得到xi 在空间W上的坐标为： 图 1 投影图进一步，表达式w = m+ ae表示w 是一条通过点m，方向为e的直线1.3.2 PCA 的作用及其统计特性采用PCA 对原始数据的处理，通常有三个方面的作用—降维、相关性去除、概率估计下面分别进展介绍：￭ 去除原始数据相关性从统计学上讲， E{[X − E(X )][Y − E(Y)]} 称为随机变量X 与Y 协方差，记为Cov(X,Y)令，称为随机变量X 与Y 的相关系数ρXY = 1那么X 与Y 是相关的，ρXY = 0，那么X 与Y 是不相关的命题 1 对于矩阵A 来说，如果AAT是一个对角阵，那么A中的向量是非相关的由 PCA 处理的人脸库数据的非相关性可以从两点进展说明〔1〕 基底的非相关性特征空间基是非相关的，即UUT = I 〔2〕 投影系数的非相关性由 SVD 可知, 其中 , mx 是平均人脸。

根据公式〔2〕可以把A 映射到特征空间上，得到： B =UT * A，其中B 是非相关的，可由下面得到证明：Y的协方差矩阵为： 由命题 1 可知，B 是非相关的￭ 统计参数〔均值及方差〕均值即 mx --平均人脸命题 2 随机变量方差越大，包含的信息越多，当一个变量方差为0 时，该变量为常数，不含任何信息用 PCA 计算主分量，就是寻找一组向量，使得原始数据A = {φ1,φ2 ,...,φM }在这组向量上的投影值的方差尽可能大最大方差对应的向量就是第一主成份，以后递推就是第二主成份，第三主成份……用 PCA 计算主分量就是求原始数据A = {φ1,φ2 ,...,φM }〔其中φi= xi –mx 〕协方差矩阵的特征向量 ，由公式〔3〕可知， 是A在 ui上的投影值，其中P 的方差就ui 对应的特征值λi ，可以理解为：命题 3 所有原始数据在主分量ui上的投影值方差为λi ￭ 降维如果在原始空间表示一幅n*m 大小的图片X，那么需要一个N＝n*m 维矢量，但是当用公式(2)把它映射到特征空间后，只需要一个r*1 维的向量就可另外，由命题2 可知，可以根据方差的大小来判断特征向量的重要性。

由ORL 图片库的200 个人脸计算得到的特征值呈图2 分布，可知特征向量重要性呈指数下降，据此可以只选用前面几个重要的特征向量来构建特征空间通过计算，前71 个特征值占了90.17%，因此r 可以取71 而非200，从而到达进一步降维的作用 图 2 特征值的分布1.3.3 特征脸 中的每一个单位向量都构成一个特征脸，如图 3 所示由这些特征脸所张成的空间称为特征脸子空间，需要注意对于正交基的选择的不同考虑，对应较大特征值的特征向量(正交基)也称主分量，用于表示人脸的大体形状，而对应于较小特征值的特征向量那么用于描述人脸的具体细节，或者从频域来看，主 分 量 表 示了人脸的低频局部， 而此分量那么描述了人脸的高频局部〔 源码见’EigenFace.m’〕 1 2 10 50 70 平均脸图 3 特征脸，分别是第1，2，10，50，70 分量，最后一张是平均脸1.3.4 图片重建要进展图片X的重建，首先对X投影到特征空间上，得到系数,然后选用一局部系数与特征向量进展原始图片的重建： ，其中1: t表示取前t 个元素。

〔见’reconstruct.m’〕在图 4 中，其中前两张图片来自训练样本，第3 张来自测试样本，可以看到对于训练样本，PCA 系数可以对图片实现很好重建，而对于训练样本以外的图片重建效果很差原始图像 t=15 t=50 t=100 t=150 t=199图 4 人脸图像重建第1列图片是输入原始图，其它列图片是重建结果，数字表示t 的数目1.3.5 奇异值分解〔SVD〕设A 是秩为r 的m*n〔m>>n〕维矩阵，那么存在两个正交矩阵和一个对角阵：其中，且UUT= I ，VVT= I ，λi呈降序排列其中λi2为AAT 和ATA 的非零特征值，ui 和vi 分别是AAT 和ATA对应于λi2的特征向量可得一个推论：可以计算 ATA的特征值λi2及相应的正交归一特征向量i v 后，可由推论知AAT 的正交归一特征向量 注意，协方差矩阵的特征值为：λi2/ M 1.3.6 利用小矩阵计算大矩阵特征向量高阶矩阵的特征向量可以转化为求低阶矩阵的特征向量：设：A 是秩为r 的m*n〔m>>n〕维矩阵，，是一个矩阵，现在要求Cx的特征值及特征向量，可通过先求小矩阵的特征向量和特征值，两者之间有以下关系：显然,Cx = AAT 的特征向量是A⋅ vi 〔注意没有单位化〕，亦为其特征值。

结论：1.2.5 与1.2.6 的方法计算协方差矩阵的特征向量，特征值的结果是一致的，只是要注意1.2.5 中的特征值要除以M，1.2.6 中的特征向量要单位化1.3.7 图片归一化图片标准化通常是一个整体概念，要求把图片归一到均值为0，方差为1 下情况下这个概念类似于一般正态分布向标准正态分布的转化：命题 4 假设X ∼ N(μ,σ2 )，那么所以要对一组图片中的一张 Xi 进展归一化〔标准化〕，只需要减去均值，除以方差就可以了均值，方差为2．结果1.识别率2.特征脸3.人脸重构3．参考文献[1] 数字图像处理与机器视觉——Visual C++与Matlab实现 张铮 王艳平 薛桂香著4 附录—matlab 源码4.1 人脸识别% FaceRec.m% PCA 人脸识别修订版，识别率88%% calc xmean,sigma and its eigen decompositionallsamples=[];%所有训练图像for i=1:40for j=1:5a=imread(strcat('D:\ORL\s',num2str(i)。