数据处理及测量误差.docx

数据处理及测量误差一、有效数字和计算规则(一) 有效数字概念 所谓“有效数字”是指在分析和测量中所能得到的有实际意义的数字换句话说， 有效数字的位数反映了计量器具的精密度和准确度记录和报告的结果只应包含有效数 字，对有效数字的位数不能任意增删因此必须按实际工作需要对测量结果的原始数据 进行处理二) 有效数字的记录 有效数字是由全部确定数字和一位不确定的可疑数字构成的从最后一个算起的第 二位以前的数字应该是可靠的(确定的)，只有末位数字是可疑的(不确定的)，总体构 成有效数字的数值如 2.368 为四位有效数字，698523 为五位有效数字这里要注意：当数字“0”用于指示小数点的位置，而与测量的准确度无关时，不 是有效数字；当它用于表示与测量准确程度有关的数值大小时，则是有效数字这与“0” 在数值中的位置有关下面将要点列举如下：(1) 如：“0”在数字前，仅起定位作用，则“0”本身不是有效数字如：某一测量 结果记录为0.02315g，为四位有效数字2) 数值中间的“0”为有效数字如：2.04和5005分别为三位和四位有效数字3) “0”在数字后面为有效数字如6.230和0.1420均为四位有效数字。

4) 以“0”结尾的整数，有效位数不确定此时应根据测定值的准确度改写成指数 形式如2.42X104和2.4200X104，分别为三位和五位有效数字三) 有效数字修约规则 测量结果的数据处理和结果表达是测量过程的最后环节，由于测量结果含有测量误 差，测量结果的有效位数应保留适宜，太多会使人误认为测量准确度很高，同时也会带 来计算上的繁琐；太少则会损失测量准确度测量、计算结果的数值应按《数值修约规 则》(GB/T8170-1987)进行修约，即按“四舍六入五余进，奇进偶舍”规则修约四舍六入五余进，奇进偶舍”规则，即当尾数不大于4时，舍去；尾数不小于6 时进位；当尾数为5时，则视保留的末位数是奇数还是偶数：5前为偶数应将5舍去， 5 前为奇数则将5进位这一规则具体运用如下：(1) 拟舍弃的第一位数字小于5，则舍去，拟保留的末位数字不变如2.7258修约 到只保留一位小数时，其被舍弃的第一位数字为2(小于5)，则修约后的数值应为2.72) 拟舍弃的第一位数字大于5，则进1，即拟保留的末位数字加1如2.78修约到 只保留一位小数时，其被舍弃的第一位数字为8(大于5)，则修约后的数值应为2.83) 拟舍弃的第一位数字为 5，而其后的数字不全为零，则进 1。

如 2.7502 修约到 只保留一位小数，其被舍弃的第一位数字是5， 5后面为“01”，则修约后的数值应为2.84) 拟舍弃的第一位数字为 5，而其后无数字或数字全部为零，则视被保留的末位 数字为奇数或偶数而定，末位数字为奇数时进1，末位数字为偶数时舍去如2.705、2.735 修约到保留三位有效数字，修约后的数值分别为 2.70和 2.745) 负数修约时，先将它的绝对值按上述规定进行修约，然后在修约值前面加负号6) 拟修约数字应在确定修约位数后一位修约获得结果，不得连续修约四) 有效数字的计算规则1 加法和减法 几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值 或者说以各近似值中小数点后位数最少相同在实际运算过程中，保留的位数比各数值 中小数点后位数最少者多保留一位小数，而计算结果按数值修约规则处理例如：29.2+36.58 —3.028^29.2+36.58 —3.03= 62.75 最后计算结果保留一位小数，为62.82 乘法和除法 几个数相乘除时，得数经修约后，其有效数字的位数应与参加运算的各近似值中有 效数字位数最少者相同，即所得结果的有效数字位数决定于相对误差最大的数值。

在实 际运算中，先将各近似值修约至比有效数字位数最少者多保留一位有效数字，再将计算 结果按数值修约规则处理例如：0.235 X28.6X 61.689^0.235 X28.6X 61.69= 414.61849 三个参与运算的数值的有效数字位数分别三、三、五，所以最后计算结果用三位有 效数字表示，为 4.15X1023 乘方和开方 近似值乘方或开方时，原近似值有几位有效数字，计算结果就可以保留几位有效数 字例如：3.582= 12.8164，运算结果保留三位有效数字为12.87628 = 2.5059928…，运算结果保留三位有效数字为2.504对数和反对数在近似值的对数计算中，所取对数的小数点后的位数(不包括首数)应与真数的有 效数字位数相同换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不 计对数的整数部分5 平均值计算 4个或4个以上近似数值的平均值时，先将计算结果修约至比要求的位数多一 位，再按数值修约规则处理如：求下列数值的平均值X : 6.38、6.39、6.40、6.34、6.426.38 + 6.39 + 6.40 + 6.34 + 6.42x = =6.3865修约后平均值计算结果为 6.39。

6 差方和、方差和标准偏差 差方和、方差和标准偏差在运算过程中对中间结果不作修约，只将最后结果修约至 要求的位数二、可疑值的判断和取舍当对同一样品进行多次重复测定时，有时会发现一组测定值中某个测定值比其他测 定值明显偏大或偏小，称这种明显偏离的测定值为可疑值可疑值不可随意取舍，因为 它可能是粗大误差，也可能是误差较大的正常值正确的处理办法是：首先进行直观分 析，若确认某可疑值是由于写错、记错、误操作等或是外界条件的改变产生的，则可剔 除，这种直观判断称为物理差别法此外，还可用统计法判别下面介绍几种常用的统 计检验方法一） 4 d 法4d法即4倍于平均偏差法，适用于4〜6个平行数据的取舍具体作法如下：（1） 除了可疑值外，将其余数据相加求算术平均值X及平均偏差d _（2） 将可疑值与平均值X相减，若可疑值-X三4d，则可疑值应舍弃；若可疑值-X v 4d，则可疑值应保留二） Dixon 检验法将n次测定的数据从小到大排列为X.，X2，…，X,…，X-1，XX.为最小可疑1 2 i n n 1此法用于一组测定数据的一致性检验和剔除异常值检验，适用于检出一个或多个异 常值但当最大值和最小值同时为可疑值，或在最大值（或最小值）一侧同时出现两个可 疑值时，此法并不理想。

检验方法如下： 值，Xn为最大可疑值，然后按照下列相应的公式计算统计量（r）：检验 Xn n3〜7次8〜10次11〜13次14〜25次r =Xn-Xn-110 Xn - X1r = X n - X n — 111 Xn-X2r =Xn-Xn-221 Xn-X2 r =Xn-Xn-222 Xn-X3r = X 2 — X110 Xn - X1r = X n - X n — 111 X n-1- X1X 3 ― X1=21 Xn-1-X1 r = X 3 - X122 X n-2- X1检验 X1将统计量（r）的计算值与根据n次测定和显著性水平从表中查得的临界值比较，如极 端值大于临界值，应予舍弃，并重复进行检验，直到不再检出其它极端值为止表 2-3-1 Dixon 检验临界值表n显著性水平n显著性水平（a ）0.100.050.010.100.050.0130.8860.9410.988150.4720.5250.61640.6790.7650.899160.4540.5070.59550.5570.6420.780170.4380.4900.57760.4820.5600.698180.4240.4750.56170.4340.5070.637190.4120.4620.54780.4790.5540.683200.4010.4500.53590.4410.5120.635210.3910.4400.524100.4090.4770.597220.3820.4300.514110.5170.5760.679230.3740.4210.505120.4900.5460.642240.3670.4130.497130.4670.5210.615250.3600.4060.489140.4920.5460.641（三）Grubbs检验法此法适用于检验多组测定均值的一致性检验和剔除异常值的检验。

也适用于检验一 组测量值和剔除一组测量值中的异常值当一组数据中仅有一个可疑值时，用 Grubbs 检验法可以得到满意的结果，而有多个可疑值时此法并不理想检验方法如下：将一组数据从小到大依次排列为X1, X2，…，X,…，X-1, X若认为最小值1 2 i n nX1或最大值X可疑时，用下列公式之一计算统计量T：1式中：X—算术平均值;S—标准差将求得的T值与表中的临界值T()比较，如T>T()，此可疑值应舍弃；若TvT(),(a, ) (a, ) (a, ) 则此可疑值应保留如有两个可疑值，先用上法舍去一个后，重新计算X及S,再对第 二个可疑值进行检验表 2-3-2 Grubbs 检验临界值表n显著性水平(a)n显著性水平(a)0.050.010.050.0131.151.15152.412.7141.461.49162.442.7551.671.75172.472.7961.821.94182.502.8271.942.10192.532.8582.032.22202.562.8892.112.32212.582.91102.182.41222.602.94112.232.48232.622.96122.292.55242.642.99132.332.61252.663.01142.372.66三、测量误差(一) 测量误差产生的原因 测量误差是被测量的单个结果和真值之差。

测量误差产生的原因主要有以下三个方 面：(1) 观测者：由于观测者感觉器官鉴别能力有一定的局限性，在仪器安置、照准、 读数等方面都产生误差同时观测者的技术水平、工作态度及状态都对测量成果的质量有 直接影响2) 测量仪器：每种仪器有一定限度的精密程度，因而测量值的精确度也必然受到 一定的限度同时仪器本身在设计、制造、安装、校正等方面也存在一定的误差，如钢 尺的刻划误差、度盘的偏心等3) 外界条件：测量时所处的外界条件，如温度、湿度、大气折光等因素都会对测 量结果产生一定的影响外界条件发生变化，测量结果将随之变化二) 测量误差分类 测量工作中，尽管观测者按照规定的操作要求认真进行测量，但在同一量的各测量 值之间，或在各测量值与其理论值之间仍存在差异也就是说，测量误差是客观存在， 不可避免的研究测量误差的来源及其规律。