
实验数据处理之有效数字运算规则.docx
6页本文格式为Word版,下载可任意编辑实验数据处理之有效数字运算规则 有效数字运算规矩 间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字但是在没有举行不确定度估算时,可根据以下的有效数字运算法那么粗略地算出结果 有效数字运算总的原那么是:运算结果只留存一位(最多两位)欠切实数字 1.加减运算 根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度如: N x y UN x 2x U2y U(或Uy) 因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠切实数字与参与运算的各数值中最先展现的欠切实数字对齐下面例题中在数字上加一短线的为欠切实数字 【例3】32.1 3.235和116.9 1.652的计算结果各应留存几位数字? 【解】先查看一下概括计算过程: 32.1 3.235 35.335 116.91.652115.248 可见,一个数字与一个欠切实数字相加或相减,其结果必然是欠切实数字。
例3中各数值最先展现欠切实数字的位置在小数点后第一位,按照运算结果留存一位欠切实数字的原那么 32.1 3.235 35.3 116.9 1.652 115.2 分别为三位有效数字和四位有效数字, 2.乘除运算 乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度我们知道,有效数字位数越少,其相对不确定度越大所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的一致 【例4】1.1111 1.11的计算结果应留存几位数字? 【解】计算过程如下: 1.1111 1.11 11111 11111 11111 1.233321 由于一个数字与一个欠切实数字相乘,其结果必然是欠切实数字所以,由上面的运算过程 可见,小数点后面其次位的“3”及其后的数字都是欠切实数字按照留存一位欠切实数字的原那么 为三位有效数字这与上面表达的乘除运算法那么是一致的即在该例中,五位有效数字与三1.1111 1.11 1.23 位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的一致。
除法是乘法的逆运算,取位法那么与乘法一致,这里不再举例说明 对于一个间接测量,假设它是由几个直接测量值通过相乘除运算而得到的,那么,在举行测量时应考虑各直接测量值的有效数字位数要根本相仿,或者说它们的相对不确定度要对比接近假设相差悬殊,那么精度过高的测量就失去意义 3.乘方、立方、开方运算 运算结果的有效数字位数与底数的有效位数一致 4.对数、三角函数运算 前面介绍的有效数字四那么运算法那么,是根据不确定度合成理论和有效数字的定义总结出来的所以,对数、三角函数的计算务必按照不确定度传递公式,先求出函数值的不确定度,然后根据测量结果结果一位数字与不确定度对齐的原那么来抉择有效数字 【例5】a 3068 2,求y lna ? 【解】按照不确定度传递公式 Uy 1 所以 a3068y lna 8.0288Ua 1 2 0.0007 或 y 8.0288 0.0007 【例6】 60 0 3 ,求x sin ? 【解】由不确定度传递公式 Ux |cos |U |cos60 |3 60 180 0.0004 所以 x sin60 0 0.8660 或 x 0.8660 0.0004 当直接测量的不确定度未给出时,上述过程也可简化为通过变更自变量末位的一个单位,查看函数运算结果的变化处境来确定其有效数字。
例如 20 6 中的“6 ”是欠切实数字,由计算器运算结果为sin20 6 0.343659695 ,sin20 7 0.343932851 ,两种结果在小数点后面第四位展现了差异,所以 sin20 6 0.3436 同理ln598 6.393590754 ,ln599 6.395261598 ,所以 但是,这种方法是较粗糙的,有时与正确结果会展现明显差异 5.常数 公式中的常数,如 、e、2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效数字即可例如: 2S r,r 6.042cm, 取为3.1416, S 3.1416 6.042 129.3 , 取为3.14, 129.3 3.14 132.4rad 2ln598 6.394 114.7cm 2 理应指出的是,上述的运算规矩不是十足的一般说来,为了制止在运算过程中因数字的取舍而引入计算误差,那么在运算过程中的中间结果应多留存一位数字为妥,但结果结果仍 应删去,以间接测量值结果一位数字与不确定度对齐的原那么为准 上节介绍的不确定度,只能在数量级上对测量结果的稳当程度作出一个恰当的评价,因此它的数值没有必要计算得过于精确。
4. 4 测量结果数字取舍规矩 数字的取舍采用“四舍六入五凑偶”规矩,即欲舍去数字的最高位为4或4以下的数,那么“舍”;若为6或6以上的数,那么“入”;被舍去数字的最高位为5时,前一位数为奇数,那么“入”,前一位数为偶数,那么“舍”,即通过取舍,总是把前一位凑成偶数其目的在于使“入”和“舍”的机遇均等,以制止用“四舍五入”规矩处理较多数据时,因入多舍少而引入计算误差 例如,将以下数据留存到小数点后其次位: 8.0861 8.09,8.0845 8.08,8.0850 8.08,8.0754 8.08,8.0656 8.06 有效数字运算规矩和数字取舍规矩的采用,目的是保证测量结果的切实度不致因数字取舍不当而受到影响同时,也可以制止因留存一些无意义的欠切实数字而做无用功,滥用时间和精力现在由于计算器的应用已特别普及,计算过程多取几位数字也并不花费多少精力,不会给计算带来什么困难但是,测验结果的正确表达依旧值得重视的,测验者理应能正确判断测验结果是几位有效数字,正确结果该怎么表示 — 6 —。












