
检测工程师公共基础要求掌握.doc
10页要求掌握部分一、修约方法及数值运算规则1、数值修约规则约GB8170-87约本标准适用于科学技术与生产活动中试验测定和计算 得出的齐种数值.需要修约时,除另有规定者外,应按本标准给出的规则进行1术语L1修约间隔 系确定修约保留位数的一•种方式•修约间隔的数值一经确定,修约值即应为该数值的整数倍例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到 一位小数例2:如指定修约间隔为100,修约值即应在100的-整数倍中选収,相当于将数值修约到 “百”数位1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数 得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字垠左一 位向右数血得到的位数,就是有效位数例1: 35000,若有两个无效零,则为三位有效位数,应写为350X10 2 ;若有三个无效 零,则为两位有效位数,应写为35X103 o例2: 3.2, 0.32, 0.032, 0.0032均为两位有效位数;0.0320为三位有效位数例3: 12.490为五位有效位数;10.00为四位有效位数1.3 0.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的().5单位。
例如,将60.28修约到个数位的0.5单位,得60.5 (修约方法见本规则5.1)1.4 0.2单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位 例如,将832修约到 “百”数位的0.2单位,得840 (修约方法见本规则5.2)2确定修约位数的衣达方式2」指定数位 a.指定修约间隔为10n (n为止整数),或指明将数值修约到n位 小数; b.指定修约间隔为1,或指明将数值修约到个数位; c.指定修约间隔为10 n ,或指明将数值修约到10 n数位(n为止報数),或指明将数值修约到“十”,"百”,“千”……数位2.2指定将数值修约成n位有效位数3进舍规则3.1拟舍弄数字的最左一位数字小于5时,则舍去,即保留的各位数字不变3.2 例1:将12.1498修约到一位小数,得12.13.3 例2:将12.1498修约成两位有效位数,得12 3.2拟舍弃数字的最左一位数字大于5;或者是5,而具后跟有并非全部为0的数字时,则进一,即保留的 末位数字加1例1:将1268修约到“百”数位,得13X102 (特定时可写为1300)o例2:将1268修约成三位有效位数,得127X10 (特定时可写为1270)。
例3:将10.502修约到个数位,得11注:本标准示例中,“特定时”的涵义系指修约间隔或有效位数明确时3.4拟舍弃数字的垠左一位数字为5,而右面无数字或皆为0吋,若所保留的末位数字为奇数(1, 3, 5, 7, 9)则进・为偶数(2, 4, 6,8, 0)则舍弃例1:修约间隔为0.1 (或10・1 )拟修约数伉修约值 1.0501.00.3500.4例2:修约间隔为1000 (或10 3 )拟修约数值修约值2500X 10 3 (特定时可写为2000)35004X10 3(特定吋可写为4000)例3:将下列数字修约成两位有效位数拟修约数值修约值0.03250.032 3250032X103 (特定时可写为32000)3.5负数修约时,先将它的绝対值按上述3.1〜3.3规定进行修约,然后在修约值前面加上负号例1:将下列数字修约到"十”数位拟修约数值修约值-355-36 X 10(特定吋可写为-360)-325-32 X 10(特定时可写为・320)2:将下列数字修约成两位有效位数拟修约数值 修约值-365-36X 10 (特定时可写为・360)-0.0365-0.036 4不许连续修约4.1拟修约数字应在确立修约位数示一次修约获得结果,而不得多次按第3章规则连续修约。
15.4546->15不正确的做法:例如:修约15.4546,修约间隔为1止确的做法:15.4546->15.455- 15.46->15.5- 16 4.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或儿位报出,而后山其他部门判定为避免产生连续修约的错 误,应按下述步骤进行 421报出数值最右的非零数字为5时,应在数值后而加“( + ) ” 或 "(一)” 或不加符号,以分别表明已进行过舍、进或未舍未进 如:16.50( +)表示实际值大于16.50,经修约舍弃成为16.50; 16.50 ( —)表示实际值小于16.50,经修约进一成为16.50 4.2.2如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进 一,数值后面有(・)号者舍去,其他仍按第3章规则进行 例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)o 实测值 报出值 修约值 15.4546 15.5 (—) 15 16.5203 16.5 ( + ) 17 17.500017.5 18 -15.4546 一 ( 15.5(—)) -15 5 0.5 单位修约与 0.2 单位修约必要时,可采用0.5单位修约和0.2单位修约。
5.1 0.5单位修约 将拟修约数值乘以2,按指定数位依第3章规则修约,所得数值再除以2 如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5) 拟修约数值 乘2 2A修约值 A修约值 (A) (2A) (修约间隔为1)(修约问隔为0.5) 60.25120.50 120 60.0 60.38 120.76 121 60.5-60.75 -121.50 ・122 -61.0 5.2 0.2单位修约 将拟修约数值乘以5,按指定数位依第3章规则修约,所得数值再除以5 例如:将下列数字修维打'百”数位的0.2单位(或修约间隔为20) 拟修约数值 乘5 5A修约值 A修约值 (A) (5A) (修约间隔为100) (修约间隔为 20) 830 4150 4200 840 8424210 4200 840 -930 -4650 -4600 -9202、 数值运算规则(1).加减运算 应以各数中有效数字末位数的数位最高者为准(小数即以小数部分位数最少者为准),其他数均比该数向右多保留一位有效数字 例:41.3X+3.012X+0.322X+0.0578X-41.3+3.01+0.32+0.06=44.69 (2).乘除运算 应以各数 中有效数字最少者为准,其余数均多取一位有效数字,所得积或商也多収一位有效数字。
例:0.0122X26.52X1.06892中,因第一个数0.0122的有效数字位数最少(3位),因此, 第二、第三个数的有效数字位数取4位,所得积也取4个有效数字,山此得: 0.0122X26.52X1.069=0.3459 (3).平方或开方运算 其结果可比原数多保留一位有效数字⑷.对数运算 所取对数位数应与真数有效数字位数相等 (5).查角度的三角函数所用函数值的位数通常随角度误差的减少而増多,一般三角函数表选择如下 角度误差 表的位数 10〃 5 1〃6 0.1〃 7 0.01" 8 (6).在所有计算式中,當数兀、e的数值和因子J2等有效数字位数,可认为无限制,需要几位就几 位 (7).表示精度吋,如最测某一试件面积,得其有效面积A=0.0501502m2,而英 量测的极限误差6 min=0.000005m2o所以量测结果应当表示为A二(0.050150±0.000005) m2误差的有效数字为一位,即5,所以表示精度一般取一位有效数字己足够,最多取两 位有效数字二、 SI基本单位的名称、定义、符号、汉语读法及代表的基本量名称 SI基本单位是指7个基本量的基本单位,它是构成国际单•位制的基础。
按量的名称、单位名称及单位 符号,列出7个SI基本单位(除千克、秒是意译外,英余5个都按音译):① 长: 米(m);② 质量:千克或公斤,(kg);③ 时间:秒,(s);④ 电流:安[培],(A);⑤ 热力学温度:开[尔文],(K);⑥ 物质的量:摩[尔], mol ;⑦ 发光强度:坎[徳拉];cdo三、 测量误差的基本概念、分类、产生原因及常用消除方法 1、误差的概念:测量结 果与被测量的真值之差2、误差的分类⑴.根据误差表示方法的不同,有绝对误差和相 对误差绝对误差:实测值与被测量之量的真值之差其性质为:它是有单位的,与测 昴时采用的-甲位和同它能表示测量的数值是偏大还是偏小以及偏离程度它不能确切地 农示测量所达到的精确程度 相对误差:绝对误差与被测真值(或实际值)的比值 其性质为:它是无单位的,通常以百分数表示,而且与测量时采用的单位无关它能表误 差的大小和方向它能表示测量的精确程度通常都用相对误差来表示测量误差2).误差就其性质而言,可分为系统误差、随机误差(偶然误差)和过失误差(粗误差) 系统误差:指在重复条件下,对同一被测量进行无限多次测量所得结果的平均值与被测量 的真值之差。
决定测量结果的"正确”程度 随机误差:指测量结果与在重复条件下, 对同一被测量进行无限多次测量所得结果的平均值之差决定测量结杲的“精密”程度 含有过失误差的数据是不能采用的,必须剔除 3、误差产生的原I大1装置误差、环境误差、人员误差、方法误差4、常用消除方法 系统误差:交换法、扌氐消法、代替法、 对称测杲法和补偿法 随机误差:概率论和数理统计方法四、常用粗大误差的剔除方法 1、拉依达法 当试验次数教多时,可简单地用3倍标准偏差(3S)作为确定可疑数据収舍的标准 当某一测量数据与其测量结果的算术平均值之差大于3倍标准偏差时,则该测量数据应舍弄 另外,当测量值与平均值Z差大于2倍标准偏差时,则该测量值应保留但应存疑如发现生产(施工)、试验过 程中,有可疑的变异时,该测量值则应予舍弃 2、肖维纳特法 进行n次试验,其测量值服从止态分布,以概率1/(2n)设定一判别范围,当偏差超出范围时,该测量值 应予舍弃 3、格拉斯法 假定测量结果服从止台分布,根据顺序统计量来确定可疑数据的取舍利用格拉斯法每次只能舍弃一个可疑值,若有两个以上的可以数据,应该 ―个一 •个数据的舍弃五、测量仪器检定、校准及比对的基本概念 计量的定义是:实现单位统一、量值准确 的活动。
1、检定:查明和确认计量器具是否符合法定耍求的程序,它包括检查、加 标记和(或)出具检定证书 2、校准:在规定条件下,为确定测量仪器或测量系统所 指示的最值,或实物彊具或参考物质所代表的最值,与对应的山标准所复现的量值Z间关 系的一纟I[操作校准结果既可赋予被测量以示值,乂可确定示值的修止值校准也确定其 它计量特性,如影响量的作用校准结果可以记录在校准证书或校准报告中 3、比 对:在规定条件下,对利同准确度等级同类计量基准、计量标准或工作计量器具的值进行 相互比较対比往往是在缺少更高准确度计昴标准的情况下,使用权计量结果趋向一致的 一-种物段国家制定有计最检定规程的仪器,则必须进行检疋而不能只进行比对7\>测量仪器的精度、示值误差、绝对误差、相对误羌、超然误差、引用误差等概念 1、 精度:冇接表示测量结果与真值一致的程度是测量的止确度和精密度的综合反映 2、 示值误差:测量仪器示值与对应输入量的真值Z差山于真值不能确定,实用上用的是约 定真值。












