范数的定义.doc

3.3 范 数3.3.1 向量范数在一维空间中，实轴上任意两点距离用两点差的绝对值表示绝对值是一种 度量形式的定义范数是对函数、向量和矩阵定义的一种度量形式任何对象的范数值都是一 个非负实数使用范数可以测量两个函数、向量或矩阵之间的距离向量范数是 度量向量长度的一种定义形式范数有多种定义形式，只要满足下面的三个条件 即可定义为一个范数同一向量，采用不同的范数定义，可得到不同的范数值 若X是数域K上的线性空间，泛函||・||: X->R满足：1. 正定性：1x11^0,且 || x||=0 <=> x=0；2. 正齐次性:|cx| = |c||x|；3. 次可加性(三角不等式)：|x+y|W|x| + |y|那么|・|称为X上的一个范数常用范数这里以Ln空间为例，Rb空间类似最常用的范数就是p-范数若x二［xl,x2,...,xn厂T，那么 |x|p=(|x1「p+|x2「p+…+|xn「p厂{1/p}可以验证p-范数确实满足范数的定义其中三角不等式的证明不是平 凡的，这个结论通常称为闵可夫斯基(Minkowski)不等式当p取1, 2，-的时候分别是以下几种最简单的情形：1- 范数：|x|l=|xl| + |x2|+-・+|xn|2- 范数：|x|2=(|xl「2+|x2「2+・・・+|xn「2厂1/200 -范数:|x|-二max(|x1|,|x2|,・・・，|xn|)其中 2-范数就是通常意义下的距离。

矩阵范数一般来讲矩阵范数除了正定性，齐次性和三角不等式之外，还规定其必须满足相 容性： 引X||||Y|| 所以矩阵范数通常也称为相容范数如果||||a是相容范数，且任何满足||||胚||||a的范数||||卩都不是相容范数，那 么||||a称为极小范数对于n阶实方阵(或复方阵)全体上的任何一个范数||||，总存 在唯一的实数k>0，使得k||||是极小范数注：如果不考虑相容性，那么矩阵范数和向量范数就没有区别，因为 mxn 矩阵全体和mn维向量空间同构引入相容性主要是为了保持矩阵作为线性算子的特征，这 一点和算子范数的相容性一致，并且可以得到 Mincowski定理以外的信息矩阵的相关定义特殊矩阵类别对称矩阵是相对其主对角线(由左上至右下)对称， 即是ai,j=aj,i埃尔米特矩阵(或自共轭矩阵)是相对其主对角线以复共轭方式对称， 即是ai,j=a*j,i特普利茨矩阵在任意对角线上所有元素相对， 是ai,j=ai+l,j+l随机矩阵所有列都是概率向量，用于马尔可夫链逆矩阵:设A是数域上的一个n阶方阵，若在相同数域上存在另一个n阶矩阵 B,使得：AB=BA=EO则我们称B是A的逆矩阵，而A则被称为可逆矩阵。

矩阵可逆的条件A是可逆矩阵的充分必要条件是丨A I丰Q即可逆矩阵就是非奇异矩阵当丨A 丨=0时，A称为奇异矩阵)⑴逆矩阵的求法:AA(-1)=(1/IAI)x A*，其中AA(-1)表示矩阵A的逆矩阵，其中IAI为矩阵A的行列 式，A*为矩阵A的伴随矩阵逆矩阵的另外一种常用的求法：(AIE)经过初等变换得到(EIAA(-l))注意：初等变化只用行运算，不能用列运算E为单位矩阵逆矩阵具有以下性质：1矩阵A可逆的充要条件是A的行列式不等于02可逆矩阵一定是方阵3如果矩阵A是可逆的，A的逆矩阵是唯一的4可逆矩阵也被称为非奇异矩阵、满秩矩阵5两个可逆矩阵的乘积依然可逆6可逆矩阵的转置矩阵也可逆7矩阵可逆当且仅当它是满秩矩阵matlab中的求法:inv(a)或 aA-1例如：>> a =8 4 92 3 57 6 1>> aA-1ans =0.1636 -0.3030 0.0424-0.2000 0.3333 0.13330.0545 0.1212 -0.0970>> inv(a)ans =0.1636 -0.3030 0.0424-0.2000 0.3333 0.13330.0545 0.1212 -0.0970以下是对MATLAB中Inv用法的解释。

原文(来自 matlab help doc )In practice, it is seldom necessary to form the explicit inverse of a matrix. A frequentmisuse of invarises when solving the system of linear equations A x=B .One way to solve this is with x = inv(A)*B.A better way, from both an execution timeand numerical accuracy standpoint,is to use the matrix division operator x = A \b.实际上，很少需要矩阵逆的精确值在解方程Ax=B的时候可以使用x = inv(A)*B ,但通常我们求解这种形式的线性方程时，不必要求出 A的逆矩阵，在MATLAB中精度更高，速度更快的方法是用左除 一一x = A\b另外，用LU分解法的速度更快，只是要多写一条 LU分解语句速度可以通过matlab中tic和toc来估算运行的时间。

伴随矩阵定义A的伴随矩阵可按如下步骤定义：1. 用A的第i行第j列的代数余子式把第j行第i列的元素替换，记为(Aij)2. 符号位为(-1)a( i+j)3. 用 A(ij)=(-1)A(i+j) x (Mij)表示即：m x n矩阵的伴随矩阵A*为A11 A21 A31....Am1A12 Am2A13 Am3Ain Amn例如：A是一个2x2矩阵，则A的伴随矩阵A*为M22,-M12-M21, Mil原矩阵为all, a12a21, a22(余子式定义：A关于第i行第j列的余子式(记作Mij)是去掉A的第i行第j 列之后得到的(m -1)x(n - 1)矩阵的行列式特殊规定：一阶矩阵的伴随矩阵为一阶单 位方阵)伴随矩阵的性质：原矩阵中的值与伴随矩阵中的值 映射，例如1 2 32 3 1 >3 1 2+5 -1 -7-1 -7 5-7 5 -1其中1对应5 ； 2对应-1 ； 3对应-7； 等等伴随矩阵的求法：①当矩阵是大于等于二阶时：主对角元素是将原矩阵该元素所在行列去掉再求行列式•非主对角元素是原矩阵该元素的共轭位置的元素去掉所在行列求行列式乘以 (-1)人(x+y) x,y为该元素的共轭位置的元素的行和列的序号，序号从 1开始的•主对角元素实际上是非主对角元素的特殊情况，因为x=y,所以 (-1)A(x+y)=(-1)A(2x)=1, 一直是正数，没必要考虑主对角元素的符号问题。

常用的可以记一下：a b 1/(ad-bc) (d -c c d -b a), ②当矩阵的阶数等于一阶时，他的伴随矩阵为一阶单位方阵•矩阵特征值设A是n阶方阵，如果存在数m和非零n维列向量x，使得Ax=mx成立, 则称 m 是 A 的一个特征值(characteristic value)或本征值(eigenvalue) 非零n维列向量x称为矩阵A的属于(对应于)特征值m的特征向量或本征 向量，简称A的特征向量或A的本征向量求矩阵特征值的方法Ax=mx，等价于求m，使得(mI-A)x=O，其中I是单位矩阵，0为零矩阵mI-A|=O，求得的m值即为A的特征值mI-A|是一个n次多项式， 它的全部根就是n阶方阵A的全部特征值，这些根有可能相重复，也有可能 是复数如果n阶矩阵A的全部特征值为ml m2 ... mn，则|A|二ml*m2*... *mn 如果n阶矩阵A满足矩阵多项式方程g(A)=O,则矩阵A的特征值m 一 定满足条件g(m)=0;特征值m可以从解方程g(m)=0求得最小二乘法(又称最小平方法)是一种数学优化技术它通过最小化误差的平方 和寻找数据的最佳函数匹配利用最小二乘法可以简便地求得未知的数据，并使 得这些求得的数据与实际数据之间误差的平方和为最小。

最小二乘法还可用于曲 线拟合其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表 达。