偏最小二乘法回归建模案例
21页1、人工智能课程论文 论文题目:论文题目: 偏最小二乘算法(PLS)回归建模 学生姓名:学生姓名: 张帅帅 学学 号:号: 172341392 专专 业:业: 机械制造及其自动化 所在学院:所在学院: 机械工程学院 年 月 日 人工智能 偏最小二乘法 (PLS) - 1 - 目录 偏最小二乘回归1 摘要1 1 偏最小二乘回归原理 1 2 一种更简洁的计算方法 5 3 案例分析 6 致谢.15 附件:.16 人工智能 偏最小二乘法 (PLS) - 2 - 偏最小二乘回归 摘要 在实际问题中,经常遇到需要研究两组多重相关变量间的相互依赖关系, 并研究用一组变量(常称为自变量或预测变量)去预测另一组变量(常称为因 变量或响应变量) ,除了最小二乘准则下的经典多元线性回归分析(MLR) ,提取 自变量组主成分的主成分回归分析(PCR)等方法外,还有近年发展起来的偏最 小二乘(PLS)回归方法。 偏最小二乘回归提供一种多对多线性回归建模的方法,特别当两组变量的 个数很多,且都存在多重相关性,而观测数据的数量(样本量)又较少时,用 偏最小二乘回归建立的模型具有传统的经典回归分析等方法所没有的优点。 偏
2、最小二乘回归分析在建模过程中集中了主成分分析,典型相关分析和线 性回归分析方法的特点,因此在分析结果中,除了可以提供一个更为合理的回 归模型外,还可以同时完成一些类似于主成分分析和典型相关分析的研究内容, 提供更丰富、深入的一些信息。 本文介绍偏最小二乘回归分析的建模方法;通过例子从预测角度对所建立 的回归模型进行比较。 关键词:关键词:主元分析、主元回归、回归建模 1 1 偏最小二乘回归偏最小二乘回归原理原理 考虑 p 个变量与 m 个自变量 的建模问题。偏最小二乘 p yyy,., 21m xxx,., 21 回归的基本作法是首先在自变量集中提出第一成分 t(t是 m xxx,., 21 的线性组合,且尽可能多地提取原自变量集中的变异信息) ;同时在因变量集中 也提取第一成分 u,并要求 t与 u相关程度达到最大。然后建立因变量 与 t的回归,如果回归方程已达到满意的精度,则算法中止。否则 p yyy,., 21 继续第二对成分的提取,直到能达到满意的精度为止。若最终对自变量集提取 r 个成分,偏最小二乘回归将通过建立与的回归 r ttt,., 21p yyy,., 21r ttt
3、,., 21 式,然后再表示为与原自变量的回归方程式,即偏最小二乘回归方 p yyy,., 21 程式。 为了方便起见,不妨假定 p 个因变量与 m 个自变量均为 p yyy,., 21m xxx,., 21 人工智能 偏最小二乘法 (PLS) - 3 - 标准化变量。因变量组和自变量组的 n 次标准化观测数据阵分别记为: nmn m npn p xx xx yy yy F E : , : 1 111 0 1 111 0 偏最小二乘回归分析建模的具体步骤如下: (1)分别提取两变量组的第一对成分,并使之相关性达最大。 (2)假设从两组变量分别提出第一对 t和 u,t是自变量集,的 T m xxX,., 1 线性组合:,u是因变量集的线性组Xwxwxwt T mm111111 . T p yyY, 1 合:。为了回归分析的需要,要求: Yvyvyvu T pp111111 . t1 和 u1 各自尽可能多地提取所在变量组的变异信息; t1 和 u1 的相关程度达到最大。 由两组变量集的标准化观测数据阵和,可以计算第一对成分的得分向量, 0 E 0 F 记 为和: 1 t 1 u 1 11
4、 1 11 1 111 10 1: . : . nmnmn m t t w w xx xx wEt 1 11 1 11 1 111 10 1: : npnpn p u u v v yy yy vFu 第一对成分 和的协方差可用第一对成分的得分向量和的内积 1 t 1 u),( 11 utCov 1 t 1 u 来计算。故而以上两个要求可化为数学上的条件极值问题: 1, 1 max, 2 111 2 11 1001101011 vvvwww xFEwvYwEut TT TT 利用 Lagrange 乘数法,问题化为求单位向量和,使最大。 1 w 1 v 10011 VFEw TT 问题的求解只须通过计算矩阵的特征值和特征向量,且 mm 0000 EFFEM TT M 的最大特征值为,相应的单位特征向量就是所求的解,而可由计算 2 1 1 w 1 v 1 w 得到。 100 1 1 1 wEFv T 人工智能 偏最小二乘法 (PLS) - 4 - (3)建立,对 的回归及,对的回归。 p yyy,., 211 t m xx ,., 1 1 t 假定回归模型为: 11 1 0 11 1 0
《偏最小二乘法回归建模案例》由会员n****分享,可在线阅读,更多相关《偏最小二乘法回归建模案例》请在金锄头文库上搜索。
项目二财务管理价值观念
山东省安全生产风险分级管控与隐患排查治理信息化系统交流材料-2018.9.26
人教版高中地理必修3第一章地理环境与区域发展第二节《地理信息技术在区域地理环境研究中的应用》
第三章2房地产抵押贷款-固定利率抵押贷款
第八章工程质量法律制度
第25讲家庭电路与安全用电
餐厅点餐系统项目
项目7水箱水位控制
框架完整个人年度工作总结范文模板
科目名称-国土交通省
金融工程09课件
高校自主招生之结构化面试
房地产私募股权投资基金(PE)专题研究.
房地产基础知识培训2012
第一章食品检测技术基础知识
第10章网站设计与建设综合实例
第5章尝试迷人的机器人项目机器人灭火项目
自考英语二unit3
企业人力资源管理师第六章劳动法与劳动关系管理
第三章市场营销宏观环境分析
2023-01-13 11页
2023-07-18 15页
2022-09-30 6页
2023-06-08 4页
2023-03-06 9页
2023-09-23 12页
2022-12-30 17页
2023-12-14 11页
2022-10-28 11页
2022-11-18 3页