计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[数据] 求助:有效数字混合运算

[复制链接]
tangjj 发表于 2011-5-17 18:47:55 | 显示全部楼层 |阅读模式
有效数字混合运算,如题:
   (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
   问:计算结果应有几位有效数字?
   求高人指教,并请大概讲一下怎么得来的。
xyb88 发表于 2011-5-18 09:51:50 | 显示全部楼层
回复 1# tangjj


    (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.00017-0.000263
=5.32
游山玩水 发表于 2011-5-18 12:58:59 | 显示全部楼层
保留和算式中有效数字最少的一样
随风飘扬 发表于 2011-5-21 16:12:50 | 显示全部楼层
回复2#,我认为答案如下:
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.0002-0.000263
=5.32
解释:乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,即按5.32。
 楼主| tangjj 发表于 2011-5-22 14:49:16 | 显示全部楼层
好,谢谢大家,知道了!
guo320925 发表于 2011-7-12 22:53:09 | 显示全部楼层
乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。
ldzhwu 发表于 2011-7-13 16:17:22 | 显示全部楼层
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121) =(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121) =5.32+0.0002-0.000263 =5.32    
  乘除运算中按有效数字最少的保留,以有效数字最少的数据为基准,其他数据多保留一位有效数字,再进行乘除运算,计算结果仍保留最少的有效数字加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,以小数点后位数最少的数据为基准,其他数据比它多保留一位,再进行加减计算,最终计算结果保留最少的位数。即按5.32。
落雪绽菊 发表于 2011-7-13 19:12:15 | 显示全部楼层
中间结果可以多保留1位
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-6-1 23:22

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表