最小二乘法及其应用..-共13页
12页1、最小二乘法及其应用1 引言最小二乘法在19世纪初发明后,很快得到欧洲一些国家的天文学家和测 地学家的广泛关注。据不完全统计,自 1805 年至1864 年的 60 年间,有关最 小二乘法的研究论文达 256 篇,一些百科全书包括 1837 年出版的大不列颠百 科全书第 7 版,亦收入有关方法的介绍。同时,误差的分布是“正态”的,也 立刻得到天文学家的关注及大量经验的支持。如贝塞尔( F. W. Bessel, 1784 1846)对几百颗星球作了三组观测,并比较了按照正态规律在给定范围内 的理论误差值和实际值,对比表明它们非常接近一致。拉普拉斯在 1810 年也 给出了正态规律的一个新的理论推导并写入其分析概论中。正态分布作 为一种统计模型,在19世纪极为流行,一些学者甚至把19世纪的数理统计学 称为正态分布的统治时代。在其影响下,最小二乘法也脱出测量数据意义之 外而发展成为一个包罗极大,应用及其广泛的统计模型。到 20 世纪正态小样 本理论充分发展后,高斯研究成果的影响更加显著。最小二乘法不仅是 19 世 纪最重要的统计方法,而且还可以称为数理统计学之灵魂。相关回归分析、 方差分析和
2、线性模型理论等数理统计学的几大分支都以最小二乘法为理论 基础。正如美国统计学家斯蒂格勒(S. M. St igler)所说,“最小二乘法之 于数理统计学犹如微积分之于数学”。最小二乘法是参数回归的最基本得方 法所以研究最小二乘法原理及其应用对于统计的学习有很重要的意义。2. 最小二乘法所谓最小二乘法就是:选择参数b ,b,使得全部观测的残差平方和最小.01用数学公式表示为:min 工e 2 二工(Y - Y )2 二工(Y - b - b x )2i i i i 0 1 i为了说明这个方法,先解释一下最小二乘原理,以一元线性回归方程为 例.Y二B + Bx +卩(一元线性回归方程)i 0 1 i i由于总体回归方程不能进行参数估计,我们只能对样本回归函数来估计即:Y = b + b x + e (i = l,2.n)i 01 i i从上面的公式可以看出:残差e是Y的真实值与估计值之差,估计总体 ii回归函数最优方法是,选择B ,B的估计量b ,b,使得残差e尽可能的小.0 l0 li总之,最小二乘原理就是选择样本回归函数使得所有Y的估计值与真实 值差的平方和为最小,这种确定b ,b的方
3、法叫做最小二乘法。0l最小二乘法是回归分析中的最基本的方法。回归方程一般分为 2类,线 性回归方程和非线性回归方程。2.1 线性回归最小二乘法最小二乘法是由实验或调查的数据,建立线性型公式的一种常用方法 . 在建立线性型公式中,虽然有很多种不同的方法来求样本回归函数(即真实 总体回归函数的估计值),但是在回归分析中最广泛应用的方法是最小二乘 法.如果变量x和y有精确的线性关系比如说y = ax + b,那么y =扌即观测ii 值与回归值是相等的. 事实上现实世界中的诸多变量的关系未必都是如此, 由于受诸多随机因数的干扰使得物与物之间没有那种很明确的对应关系.比 如说人的身高和体重就是一个对应,我们都知道长的高的人不一定就重,同 理长的矮的人也不一定就轻. 但身高和体重的确存在着一定的关系 , 而这种 关系并非是y = ax + b所能确定的.那么我们要寻求身高和体重之间的关系 就需要通过数学的方法. 首先调查统计得出数据;其次把数据描绘出来;然后 拟合一条跟已有的图象最接近的曲线, 这样就可以相对地将身高和体重之间 的关系表示出来. 在处理类似的事情中常常用到最小二乘法.2.2 非线性
《最小二乘法及其应用..-共13页》由会员大米分享,可在线阅读,更多相关《最小二乘法及其应用..-共13页》请在金锄头文库上搜索。
吊装平台施工组织设计
4A教学计划、进度表20158.doc
八年级下人教新课标期中文化素质调研八年级试卷.doc
幼儿园美工活动方案参考范文(四篇).doc
2023年质量管理协会的上半年工作总结范文.docx
2023年爱岗敬业班主任辞职报告范文.docx
学习助我成长.doc
精益生产知识简介
清华老师的话受益了
2023护士实习报告个人总结(2篇).doc
中班科学优质故事教案详案《有趣的叶子宝宝》
2023年 春季开学典礼演讲稿 .docx
2023教师感恩的演讲稿100范文.docx
2023年魔术协会年度总结.docx
乡村旅游管理制度标准范文(7篇)
江苏省南京市第十三中学2021届高三生物上学期教学质量调研试题(三).doc
吵架道歉信
2023年篇一政风行风自查自纠整改落实方案.docx
2023年小蚂蚁历险记作文4范文.docx
2023年纪检监察工作心得体会.DOC
2023-11-20 4页
2022-11-26 29页
2023-05-25 2页
2023-11-23 8页
2022-11-10 6页
2023-03-31 4页
2023-12-05 46页
2022-08-20 5页
2023-08-14 7页
2023-12-11 5页