检测工作中数据处理知识.ppt
27页检测工作中数据处理知识,何贤超 2018.08.01,目录,1、有效数字与数值修约 2、数据处理 3、极限数值的比较方法 4、检测工作中数据取舍问题 5、准确度与精密度,1.有效数字与数值修约,1.1 有效数字 有效数字:一个数据,从左往右,非零数字后的数值均为有效数值 例如: 10 2位有效数字 10.0 3位有效数字 0.1 1位有效数字 注意:科学计数法,有效数字不包含10n 例如:1.02*10-5 仅读取1.02确认有效数字,有效数字为3位,1.有效数字与数值修约,有效数字,在检测工作中,通常指实际能测到的数值,最后一位是可疑的,其余数字均为确定值 例如:称量数据: 1.00g,准确程度为0.01g,相对误差为0.01/1.00*100=1% 1.0000g,准确程度为0.0001g,相对误差为0.0001/1.0000*100=0.01%,1.有效数字与数值修约,1.2数值修约 数值修约的原则:“四舍六入五成双” 具体来讲: 5,要舍去; 5,进一位; =5(5后面没有非零数字),要讨论,看5前面数字,奇进偶不进1.有效数字与数值修约,实例:将下列数字修约成为3位有效数字 3.0449 修约为3.04 (运用:5,要舍去) 3.0451 修约为3.05 (运用:5,进一位) 3.0450 修约为3.04 (运用: =5,看前面,奇进偶不进) 3.0350 修约为3.04(运用: =5,看前面,奇进偶不进) 3.01547*105 修约为3.02*105 (科学计数法的修约) 数值修约注意事项: 修约时必须一步到位,不能逐级修约。
例如: 将3.0349修约为3位有效数字 错误做法:3.0349修约为3.035修约为3.04 正确做法:3.0349修约为3.03 ,1.有效数字与数值修约,1.3有效数字运算规则 1.3.1 加减法 小数位数应与参与运算的几个数字中,数字小数点后位数最少者相同 例如:1.5341+0.01+0.0123 保留2位小数 依据:小数点后位数最少的数绝对误差最大 1.3.2乘除法 有效数字位数以几个数中有效位数最少的为准 例如:0.0121*25.64*1.05782 保留3位有效数字 依据:有效位数最少的那个数绝对误差最大1.有效数字与数值修约,1.3.3先修约再运算还是先运算再修约的问题 两种方法都可以,原则上以先修约再运算为主 但由于计算器的普及,实际工作中常采用先运算再修约的方式 1.3.4日常工作中运用 高组分(10%组分),保留4位有效数字如:10.32% 中组分(10%-1%组分),一般保留3位有效数字如:9.32% 低组分(1%组分),一般保留2位有效数字如:0.32%,0.0032%,1.有效数字与数值修约,1.3.5关于与标准极限值比较的问题 一般要求比标准极限值多一位有效数字(1/10原则) 如生板金属铅标准极限值4,检测结果可以计为3.8 工业生产中,对数据要求不是特别苛刻的情况下,也可以是相同位数。
如铅钙合金中,钙含量要求0.055-0.065,检测结果可以出具0.060,2.数据处理,2.1误差 误差用于描述测量结果的准确性误差包括两类:绝对误差、相对误差 2.1.1 绝对误差:测量值-真值 绝对误差有正、负之分 2.1.2 相对误差:绝对误差相对于真实值的百分率 相对误差有正、负之分2.数据处理,运用实例: 一个正极板样品测量二氧化铅,标准80%,多次测量结果为 85.1 、85.3、84.7、84.8 、83.6, 我们在描述时通常会说:前四个结果测量结果准确,第五个结果测量结果不准确运用的是绝对误差) 一个铅钙合金样品,标准1.40-1.45%,多次测量结果为:1.38、1.42、 1.41、1.42、 1.41 我们在描述时通常会说:第一个结果测量结果不准确,后四个结果测量结果准确运用的是绝对误差),2.数据处理,思考题? 对于正极板,测量极差为1.5,前四个极差为0.6;对于铅钙合金,极差为0.04,后四个极差为0.01 思考:为什么正极板二氧化铅极差1.5,我们认为结果是准确的,而铅钙合金,极差0.04,我们却认为结果不准确呢?(相对误差的运用) 结论:误差只有在讨论同一个样品的同一个检测项目时才有意义,对不同样品绝对误差大,不一定就不准确。
2.数据处理,2.2真值 上面讨论了绝对误差与相对误差,那么什么是真值呢? 2.2.1理论真值:理论计算值 如:水中氧元素的理论计算含量为88.9%, 测定结果分别为75.1%、88.4%,前者不准确 前期,我们有员工测量红丹中铅含量有员工测量结果为20%,我认为结果是不准确的因为红丹一般描述为四氧化三铅,理论计算值为90.7%,所以我认为20%是不准确的运用了理论真值 2.2.2约定真值:如国际标样、标准器、标准物质 约定真值要注意标准样品的范围,如:行业标准物质、市域标准养、国际标样 2.2.3相对真值:采用最可靠的分析方法,测量的相对准确值如工作中的控样2.数据处理,2.2.4现实工作中的评定: 2.2.4.1算术平均值 2.2.4.2中位数 将n个数据从小到大排列,n为奇数时,正中间数叫中位数;n为偶数时,正中间两个数的平均值叫中位数 例如:1、2、3、4、5 中位数为3(等于算术平均值) 1、2、3、4、5、6 中位数为3.5(等于算术平均值) 中位数使用简单直观2.数据处理,2.3 偏差 检测过程中,用偏差衡量分析结果的精密度 2.3.1单次偏差 (有正负号,可能为零)单次偏差之和为零。
2.3.2平均偏差:单次测定偏差的绝对值的平均值 没有正负号,表示数据间的重复性 2.3.3相对平均偏差(用于次数不多的测定),2.数据处理,2.3.4标准偏差(用于较多次测定次数) 测定的标准偏差 2.3.5相对标准偏差(RSD,Sr),2.数据处理,2.3.6全距或极差 2.3.7公差 生产部门对分析结果误差允许的一种限量 工业生产中,一般待测组分与公差关系如下:,3.极限数值的比较方法,极限数值一般有两种比较方法,全数值比较法与修约值比较法 全数值比较法是一种要求较高的比较法,用于精密的检测过程控制 修约比较法一般用于工业生产中 3.1全数值比较法(示例如下),3.极限数值的比较方法,3.2修约值比较法 修约值比较法将测定值修约为与标准极限值位数一致比较示例如下),4.检测工作中数据取舍问题,4.1数据取舍原则 4.1.1 过失造成的可疑值,弃掉 4.1.2结果复查时,已找到可疑值原因的,弃掉 4.1.3 如找不到可疑值的原因,不应随意保留或弃掉,应进行数据统计分析来确定取舍 4.1.4介绍一种数据取舍方法Q值检验法 适用于测定3-10次的测定,4.检测工作中数据取舍问题,Q值检验法步骤: 步骤一、测定值由小到大排列,X1,X2,X3,Xn-1,Xn 步骤二、计算Q值 Q值:可疑值与最邻近数值之差,除以极差。
可疑值首项: (检验X1) 可疑值末项: (检验Xn) 步骤三、判断取舍 原则:Q0Q(弃掉可疑值) Q0Q(保留可疑值),4.检测工作中数据取舍问题,4.2取舍可疑值的Q值表,5.准确度与精密度,准确度:指实验测得值与真实值之间相符合的程度精密度:指在相同条件下,多次重复测定结果彼此相符合的程度5.准确度与精密度,在GB/T6379-2004(ISO5725-1994)中使用两个术语“正确度”与“精密度”来描述准确度5.准确度与精密度,(一) 准确度好,精密度好,(三) 准确度差,精密度好,(四) 准确度差,精密度差,(二) 准确度好,精密度差,精密,不精密,准确,不准确,5.准确度与精密度,准确度:通常用误差来描述 精密度:通常用偏差来描述引申:均值极差图中,X-bar图反应的就是准确度;R图反应的是精密度与测量不确定度的关系:检测结果的完整表述应该是:测量值+测量不确定度测量不确定度:是与测量结果相关联的一个参数,用以表征合理地赋予被测量之值的分散性5.准确度与精密度,。





