好文档就是一把金锄头!
欢迎来到金锄头文库![会员中心]
电子文档交易市场
安卓APP | ios版本
电子文档交易市场
安卓APP | ios版本

常用数值修约办法1015.docx

7页
  • 卖家[上传人]:hs****ma
  • 文档编号:517334610
  • 上传时间:2024-02-04
  • 文档格式:DOCX
  • 文档大小:19.32KB
  • / 7 举报 版权申诉 马上下载
  • 文本预览
  • 下载提示
  • 常见问题
    • 常用数值修约办法1、有效数字从数值最左边第1个不为“0”的数字开始往右数,直至最后一位截止,均 是有效数字,第一个非“0”数字前的“0”不是有效数字1)两位有效数字:①顼;套; 0.12最为常见类型② 0.0016;前面的“0”均不是有效数字③0虺前面的“0”均不是,后面的是④ 1.2X103、1.2X105、0.010X105“10n ”代表数量级,不是有效数字2)三位有效数字:① 12.6;1.26; 0.126最为常见类型②0.00165;前面的“0”均不是有效数字③0.600 ;0.0600前面的“0”均不是,后面的是④ 1.26X 103、0.0126X10-5、0.100X105“10n ”代表数量级,不是有效数字3) 相关小常识:① 试验中的数字与数学上的数字是不一样的如:a. 数学的8.35=8.350=8.3500只是纯数字b. 而试验的8.35尹8.350尹8.3500均是实测物理量、化学量等测定数值, 为测得或计算得到的真实的量② 试验中的有效数字位数与被测物的大小和测量设备的精密度有关系如同 一个水杯,在不同的电子天平上可分别测得:170 (10)、165 (5)、166 (1)、 165.8 (0.1)、165.78 (0.01)。

      2、修约间隔即修约后数值的最小单位(修约间隔的数值“N” 一旦确定,修约后的数据 必须是间隔“N”的整数倍):1) 结果计算或称量精确到 J,即修约间隔N为亶此情形下,测量值/称 量值/计算值保留至0.1的倍数,即**.*形式2) 结果计算或称量精确到0.25,即修约间隔N为0.25此情形下,测量值/ 称量值/计算值保留至0.25的倍数,^"*.25、**.50、**.75、**.00形式3) 结果计算或称量精确到宜,即修约间隔N为宜此情形下,测量值/称 量值/计算值保留至0.5的倍数,^"*.5、**.0形式4) 结果计算或称量精确到1,即修约间隔N为1此情形下,测量值/称量值/ 计算值保留至1的倍数,即***的整数形式5) 结果计算或称量精确到5,即修约间隔N为5此情形下,测量值/称量值/ 计算值保留至5的倍数,^"*5、**0形式6) 结果计算或称量精确到其,即修约间隔N为亚此情形下,测量值/称量 值/计算值保留至10的倍数,即弩0形式7)修约间隔 N 为 0.05fff **.*5、**.*0;修约间隔 N 为 0.2fff **.2、**.4、**.6、**.8、**.0;修约间隔N为100或102fff ***00或**乂102 (**必须为整数);修约间隔N为10-2fff ***.**或***X 10-2 (**必须为整数); 其他的修约间隔同理类推。

      3、计算规则1) 加减法以小数点后位数最少的数据为基准,其他数据修约至与其相同,再进行加减 计算,最终计算结果保留最少的位数例:计算 50.1+1.47+0.5812二?修约为:50.1+1.5+0.6=52.12) 乘除法以有效数字最少的数据为基准,其他有效数修约至相同,再进行乘除运算, 计算结果仍保留最少的有效数字例:计算 0.0121X25.64X 1.05728二?修约为:0.0121X25.6X 1.06=0.3283456=0.328结果仍保留为三位有效 数字例:计算 2.5046X2.005X 1.52二?修约为:2.50X2.00X 1.52=7.60结果仍保留为三位有效数字4、进舍规则1)常规修约(四舍六入五单双):① 拟舍弃数字:如要将112.1498修约到个位数(即修约到1,也称为精确到个位数或精确 到1),则1498被称为拟舍弃数字如要将112.1498修约到10 (即精确10),则2.1498被称为拟舍弃数字② 四舍:拟舍弃数字的第一位(最左边一位)为0、1、2、3、4时,所有的 拟舍弃数字直接舍去,保留其余各数位不变如112.1498修约到1,记为112;修约到0.1,记为112.1;修约到10,记 为 110。

      ③ 六入:拟舍弃数字的第一位(最左边一位)为6、7、8、9,将拟舍弃数 字全部舍去,同时拟修约数字进1,即拟保留数字的末尾+1如 116.6698 修约到 1,记为 117; 116.6698 修约到 0.1,记为 116.7; 116.6698 修约到10,记为丝④ 五单双:a. 当拟舍弃数字的第一位为5的时候,并且5后面有非“0”数字时,则所有的 拟舍弃数字直接舍去,拟修约数字进1,即拟保留数字的末尾+1如115.56修约到10,记为120; 如 115.01修约到10,记为也如112.5698修约到1,记为113; 如 112.5002修约到1,记为113o如0.5598修约到0.1,记为0.6;如0.4502修约到0.1,记为亶b. 当拟舍弃数字的第一位为5的时候,并且5后面所有数字为“0”,或后面无 数字时,若拟修约(或拟保留)数字为奇数(单数1-3-5-7-9),则所有的拟舍 弃数字直接舍去,拟修约数字进1,即拟保留数字的末尾+1如115.00修约到10,记为120; 如 115修约到10,记为性如111.500修约到1,记为旦2;如111.5修约到1,记为112如2.550修约到0.1,记为2.6;如2.55修约到0.1,记为空。

      c. 当拟舍弃数字的第一位为5的时候,并且5后面所有数字为“0”,或后面无 数字时,若拟修约(或拟保留)数字为偶数(双数2-4-6-8-0),所有的拟舍弃 数字直接舍去,保留其余各数位不变如125.00修约到10,记为120; 如 125修约到10,记为120如110.500修约到1,记为110; 如 110.5修约到1,记为110如92.6500修约到0.1,记为92.6;如92.65修约到0.1,记为92.62)0.25单位修约:①常规的0.25单位修约(个位数的0.25):拟修约数值N①4N②二①家4N修约至“1”②f③N的“0.25 "修约值④二③孔35.07140.2814035.0035.13140.5214135.2535.12140.4814035.00②特殊的0.25单位修约拟修约数值N①4N ②=①X44N修约至“?”②f③N的“? ”位数修约值④二③*35077 (百位数 0.25)140 308140 308-140 300(修约至“? ”,即100)35075(百位数0.25)35077 (千位数 0.25)14 030814 0308-14 0000(修约至“? ”,即1000)35000(千位数0.25)拟修约数值N①转换型式①f②4N③=②X44N修约至“?”③f④N 的 “?”位数修约值⑤二④*转换型式⑤f⑥35077(百位数0.25)350.77X 1021403.08X1021403X102350.75X 1023507535077(千位数0.25)35.077X 103140.308X103140X10335X103350003) 0.5单位修约:①常规的0.5单位修约(个位数的0.5):拟修约数值N①2N②二①乂?2N修约至“1”②f③N的“0.25 "修约值④二③芸20.2540.504020.0020.7441.484120.5020.7541.504221.00②特殊的0.5单位修约。

      拟修约数值N①2N②二①乂?2N修约至“?”②f③N的“?”位数修约值 ④二③葺35077(百位数的0.5)70 15470 154—70 200(修约至“? ”,即100)35075(百位数0.5)35077(千位数的0.5)7 01547 0154—7 0000(修约至“? ”,即1000)35000(千位数0.5)拟修约数值N①转换型式 ①f②2N③二②乂?2N修约至“1” ③f④N 的 “?" 位数修约值 ⑤二④芸转换型式 ⑤f⑥35077 (百位数0.5)350.77X 102701.54X102702X 102351X1023507535077(千位数0.5)35.077X 10370.154X10370X10335X103350004) 5的修约:即修约后数字为“5”的整数倍,示例如下:拟修约数值N①0.2N②二①X0.20.2N修约至“1" ②f③N的“5 ”修约值④二③4-0.212.502.5021012.512.50231517.493.49831517.503.50420拟修约数值N①2N②二①乂?2N修约至“10”②一③N的“5 ”修约值④二③芸12.5025.00201012.5125.02301517.4934.98301517.5035.0040205)负数修约:任何形式的负数修约时,先按照上述规则修约其绝对值(即不考虑“-”号), 然后对修约后的结果加上“-”号。

      如-0.5598修约到0.1,先修约| 0.5迎|至| 0.6 |,然后加上“-”号,记 为-0.6如-115.00修约到10,先修约| 115.00 |至| 120 |,然后加上“-”号,记 为-1206)不允许连续修约:拟修约数值应该在确定修约间隔后经过一次修约获得修约结果,不得多次连 续修约:例1:修约97.46 ,修约间隔为"正确的做法:97.46->97;不正确的做法:97.46—97. 5^98.例2:修约15.454 6,修约间隔为L正确的做法25.454 6—15;不正确的做法:15.454 6—15. 455—15. 46 >15. 5-*160。

      点击阅读更多内容
      关于金锄头网 - 版权申诉 - 免责声明 - 诚邀英才 - 联系我们
      手机版 | 川公网安备 51140202000112号 | 经营许可证(蜀ICP备13022795号)
      ©2008-2016 by Sichuan Goldhoe Inc. All Rights Reserved.