《应用多元统计分析》教学全套ppt课件.ppt

1应用多元统计分析应用多元统计分析 2第一章第一章 绪绪 论论 本章主要讨论本章主要讨论: : 多元统计分析概述多元统计分析概述 多元统计分析的应用多元统计分析的应用 线性代数基础线性代数基础 3 第一节第一节 多元统计分析概述多元统计分析概述 本节基本内容本节基本内容: : 一、多元统计分析的涵义一、多元统计分析的涵义 二、多元统计研究的内容和方法二、多元统计研究的内容和方法 4一、多元统计分析的涵义一、多元统计分析的涵义n多元统计分析（简称多元分析），是运用数理统计多元统计分析（简称多元分析），是运用数理统计的方法来的方法来研究多变量问题的理论和方法，它是一元研究多变量问题的理论和方法，它是一元统计学的推广统计学的推广n在现实生活中，很多随机现象涉及到的变量不止一在现实生活中，很多随机现象涉及到的变量不止一个，而经常是多个变量，这些变量之间往往存在一个，而经常是多个变量，这些变量之间往往存在一定的联系按照一元统计方法分析多变量问题，往定的联系按照一元统计方法分析多变量问题，往往不容易取得好的研究结论往不容易取得好的研究结论这就需要同时对多个随机变量进行分析研究这就需要同时对多个随机变量进行分析研究。

5从应用上讲，多元统计分析实际上是以从应用上讲，多元统计分析实际上是以 个变量的个变量的 次观测数据形成矩阵次观测数据形成矩阵为依据，根据实际问题的需要所给出种种分析方法为依据，根据实际问题的需要所给出种种分析方法一、多元统计分析的涵义一、多元统计分析的涵义6多元统计研究的内容和方法概括为多元统计研究的内容和方法概括为(Kendall) ：n理论基础理论基础n随机向量、矩阵抽样分布理论，统计推断理论等n降维问题降维问题n主成分分析，因子分析，对应分析等n归类问题归类问题n聚类分析，判别分析等n相依问题相依问题n典型相关分析、回归分析等二、多元统计研究的内容和方法二、多元统计研究的内容和方法7 第二节第二节 多元统计分析的应用多元统计分析的应用n多元多元统计分析方法是解决实际问题有效的数据处理统计分析方法是解决实际问题有效的数据处理分析方法，随着电子计算机使用的日益普遍，多元分析方法，随着电子计算机使用的日益普遍，多元统计分析方法广泛应用于地质科学、气象科学、医统计分析方法广泛应用于地质科学、气象科学、医疗卫生、体育、语言学、考古学、教育学、心理学疗卫生、体育、语言学、考古学、教育学、心理学以及经济学、管理学等自然学科、社会科学领域。

以及经济学、管理学等自然学科、社会科学领域n其中，仅就在经济管理中的应用，主要可集中在如其中，仅就在经济管理中的应用，主要可集中在如下的场合：下的场合：8n对多变量进行降维处理，选择数目较少的变量对多变量进行降维处理，选择数目较少的变量子集合n对研究对象需要进行分类研究、分类处理、构对研究对象需要进行分类研究、分类处理、构造分类模式造分类模式n建立经济模型和利用模型进行外推建立经济模型和利用模型进行外推n研究经济现象之间相互关系研究经济现象之间相互关系 第二节第二节 多元统计分析的应用多元统计分析的应用9 第三节第三节 线性代数基础线性代数基础 本节基本内容本节基本内容: :n对应用多元统计课程学习过程中所须具备的线性代数知识作简单的回顾和介绍包括： 向量、矩阵及基本运算，行列式，逆矩阵和矩阵的秩，特征根、特征向量，矩阵的迹，正定矩阵和非负定矩阵，投影矩阵，矩阵微商10n约定：约定：n向量用小写粗体字母(如 ， 等)表示，n矩阵用大写粗体字母(如 ， 等)表示，n标量用斜体字母(如 ， 等)表示 第三节第三节 线性代数基础线性代数基础11向量：向量：由由 个实数组成的一个数组称为个实数组成的一个数组称为 维向量，记为维向量，记为 ，或，或 注意，我们提到的向量均指列向量；注意，我们提到的向量均指列向量； 行向量用列向量的转置表示，如行向量用列向量的转置表示，如 。

一、向量一、向量12 维向量在几何上表示一个有方向的线段向量维向量在几何上表示一个有方向的线段向量可以进行数量乘法和加法运算令可以进行数量乘法和加法运算令 为任意常数，为任意常数， 和和 ，则向量的数，则向量的数量乘法和加法可分别定义为：量乘法和加法可分别定义为：一、向量一、向量13矩阵：矩阵：将将 个数个数 排成一个形如排成一个形如 行行 列的列的长方形表：长方形表：称称 为为 矩阵，常记为矩阵，常记为 ，其中，其中 为为第第 行，第行，第 列的元素本书中假定列的元素本书中假定 均为实数均为实数 二、矩阵及基本运算二、矩阵及基本运算14矩阵的运算矩阵的运算矩阵加法若矩阵加法若 与与 为为 矩阵，则矩阵，则 与与 的的和为矩阵对应元素的和：和为矩阵对应元素的和：数量乘积若数量乘积若 为一常数，它与为一常数，它与 的积定义为该的积定义为该常数与矩阵元素的乘积：常数与矩阵元素的乘积：二、矩阵及基本运算二、矩阵及基本运算15矩阵乘法若矩阵乘法若 ， ，则，则 与与 的积定义为：的积定义为：在在一一般般情情况况下下， 从从上上述述矩矩阵阵运运算算定定义义中中可以得到如下运算规律：可以得到如下运算规律：二、矩阵及基本运算二、矩阵及基本运算16若若 为方阵，满足为方阵，满足 ，则称，则称 为为正交矩阵。

正交矩阵二、矩阵及基本运算二、矩阵及基本运算17矩阵分块矩阵分块矩阵的分块是处理矩阵的分块是处理阶数较高的矩阵时常用的方法阶数较高的矩阵时常用的方法有时，我们把一个高阶矩阵看成是由一些低阶矩阵有时，我们把一个高阶矩阵看成是由一些低阶矩阵组成的，就像矩阵由数值组成一样设组成的，就像矩阵由数值组成一样设 为为 矩阵，将矩阵，将 剖分称四块，表示成剖分称四块，表示成其中，其中， 表示表示 矩阵，矩阵， 表示表示 矩阵，矩阵， 表示表示 矩阵，矩阵， 为为 矩阵分块矩阵也满足一般矩阵的乘法和加法等运算规律块矩阵也满足一般矩阵的乘法和加法等运算规律二、矩阵及基本运算二、矩阵及基本运算18若矩阵若矩阵 与与 有相同的分块，则有相同的分块，则若若 为为 矩阵，剖分成矩阵，剖分成其中，其中， 为为 矩阵，矩阵， 为为 矩阵，矩阵， 为为 矩阵，矩阵， 为为 矩阵则有矩阵则有二、矩阵及基本运算二、矩阵及基本运算19二、矩阵及基本运算二、矩阵及基本运算20（一）行列式（一）行列式一个一个 阶方阵阶方阵 对应一个数，记为对应一个数，记为称称 为为 的行列式的行列式三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩21直直接接由由行行列列式式的的定定义义计计算算行行列列式式是是很很麻麻烦烦的的，通通常常利用行列式的一些性质，可以简化计算：利用行列式的一些性质，可以简化计算：(1)若矩阵若矩阵 的某行的某行(或列或列)为零，则行列式为零，则行列式 。

2) 3)将将矩矩阵阵某某行行(或或列列)乘乘以以数数 所所得得矩矩阵阵的的行行列列式式为为 4)若矩阵若矩阵 的两行的两行(或两列或两列)相同，则行列式相同，则行列式 5)若若将将矩矩阵阵 两两行行(或或两两列列)互互换换所所得得矩矩阵阵的的行行列列式式为为 6)若若将将矩矩阵阵 的的某某一一行行(或或列列)乘乘上上一一个个常常数数加加到到另另一一行行相相应应的的元元素素上上，所所得得矩矩阵阵的的行行列列式式不不变变，仍仍为为 三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩22（二）（二）逆矩阵逆矩阵设设一一个个 阶阶方方阵阵 ，若若 ，则则称称 为为非非奇奇异异矩矩阵阵，若若 ，则则称称 为为奇奇异异矩矩阵阵若若 为为 阶阶非非奇奇异矩阵，则存在唯一的矩阵异矩阵，则存在唯一的矩阵 使得使得 ， 称称 为为 的逆矩阵，记为的逆矩阵，记为 ，可以证明，可以证明其中，其中， 为为 的代数余子式的代数余子式 三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩23逆矩阵具有如下性质：逆矩阵具有如下性质： (1) 3)若若 和和 均为均为 阶非退化矩阵，则阶非退化矩阵，则 5)若若 是正交矩阵，则有是正交矩阵，则有 。

6)若若 非退化，非退化， 即即（ ），则），则 7)若若 和和 为非退化方阵，则为非退化方阵，则 三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩24（三）逆矩阵的秩（三）逆矩阵的秩 设设 为为 阶阶矩矩阵阵若若存存在在 的的一一个个 阶阶子子方方阵阵的的行行列列式式不不为为零零，而而 的的一一切切 阶阶子子方方阵阵的的行行列列式式均均为为零零，则则称称 的的秩秩为为 ，记记为为 矩矩阵阵的秩具有下列基本性质：的秩具有下列基本性质：(1) ，当且仅当，当且仅当 2)若若 为为 阶矩阵，且阶矩阵，且 ，则，则 4)若若 为为 矩阵和矩阵和 为为 矩阵，则矩阵，则 三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩25(5)若若 和和 为为 矩阵，则矩阵，则 (6)若若 和和 为非退化矩阵，则为非退化矩阵，则 (7) 阶阶方方阵阵 是是非非退退化化的的，当当且且仅仅当当 ，此此时称时称 为满秩矩阵为满秩矩阵三、行列式、逆矩阵和矩阵的秩三、行列式、逆矩阵和矩阵的秩26 设设 为为 阶方阵，则方程阶方阵，则方程 的左边为的左边为 次次多项式，由多项式的理论知道，该方程有多项式，由多项式的理论知道，该方程有 个根个根(可能有重根可能有重根)，记为，记为 ，并称为矩阵，并称为矩阵 的特征根或特征值。

的特征根或特征值 若若 是是方方程程 的的一一个个根根，则则 为为奇奇异异矩阵，故存在一个矩阵，故存在一个 维非零向量维非零向量 使得使得四、特征根、特征向量四、特征根、特征向量27即即 是矩阵是矩阵 的特征根，而的特征根，而 称为特征根称为特征根 对应的对应的特征向量今后一般取为特征向量今后一般取为 单位向量，即满足单位向量，即满足 特征根和特征向量具有以下性质：特征根和特征向量具有以下性质：(1)矩阵矩阵 和和 有相同的特征根有相同的特征根2)若若 为为 矩阵，矩阵， 为为 矩阵，则矩阵，则 和和 有相同的特征根有相同的特征根3)若若 为实对称矩阵，则为实对称矩阵，则 的特征根全为实数，的特征根全为实数， 个特征根按大小依次表示为个特征根按大小依次表示为 四、特征根、特征向量四、特征根、特征向量28若若 ，则相应的特征向量，则相应的特征向量 和和 必正交，即必正交，即 (4)若若 是矩阵是矩阵 的特征根，的特征根， 可逆，则可逆，则 的特征根为的特征根为 5) ，即矩阵，即矩阵 行列式等于其特征根行列式等于其特征根 的乘积四、特征根、特征向量四、特征根、特征向量29 若若 是是 阶方阵，其对角线元素之和称为矩阵阶方阵，其对角线元素之和称为矩阵 的迹，记为的迹，记为 方阵的迹具有如下性质：方阵的迹具有如下性质： (1)若若 为为 阶方阵阶方阵 的特征根，则的特征根，则 (2) 五、矩阵的迹五、矩阵的迹30(3) 。

4) 五、矩阵的迹五、矩阵的迹31设设 为为 阶对称矩阵，阶对称矩阵， 是一个是一个 维列向量，则维列向量，则 称为称为 的二次型若对于一切的二次型若对于一切 ，有，有 ，则称，则称 为正定矩阵，记为为正定矩阵，记为 ；若；若 对于一切对于一切 ，有，有 ，则称，则称 为非负为非负 定矩阵，记为定矩阵，记为 六、正定矩阵和非负定矩阵六、正定矩阵和非负定矩阵32正定矩阵和非负定矩阵具有如下性质：正定矩阵和非负定矩阵具有如下性质：(1)一一个个对对称称阵阵是是正正(非非负负)定定矩矩阵阵，当当且且仅仅当当它它的的特特征根为正征根为正(非负非负)2)若若 ，则，则 3)设设 ，则，则 当且仅当当且仅当 4) ，对于一切矩阵，对于一切矩阵 成立六、正定矩阵和非负定矩阵六、正定矩阵和非负定矩阵33。