找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[数据] 求助:有效数字混合运算

[复制链接]
tangjj 发表于 2011-5-17 18:47:55 | 显示全部楼层 |阅读模式
有效数字混合运算,如题:
   (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
   问:计算结果应有几位有效数字?
   求高人指教,并请大概讲一下怎么得来的。
xyb88 发表于 2011-5-18 09:51:50 | 显示全部楼层
回复 1# tangjj


    (1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.00017-0.000263
=5.32
回复

使用道具 举报

游山玩水 发表于 2011-5-18 12:58:59 | 显示全部楼层
保留和算式中有效数字最少的一样
回复

使用道具 举报

随风飘扬 发表于 2011-5-21 16:12:50 | 显示全部楼层
回复2#,我认为答案如下:
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121)
=(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121)
=5.32+0.0002-0.000263
=5.32
解释:乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,即按5.32。
回复

使用道具 举报

 楼主| tangjj 发表于 2011-5-22 14:49:16 | 显示全部楼层
好,谢谢大家,知道了!
回复

使用道具 举报

guo320925 发表于 2011-7-12 22:53:09 | 显示全部楼层
乘除运算中按有效数字最少的保留,加减运算中按小数位最少的保留。
回复

使用道具 举报

ldzhwu 发表于 2011-7-13 16:17:22 | 显示全部楼层
(1.2760*4.17)+(1.7*0.0001)-(0.0021764*0.0121) =(1.276*4.17)+(1.7*0.0001)-(0.002176*0.0121) =5.32+0.0002-0.000263 =5.32    
  乘除运算中按有效数字最少的保留,以有效数字最少的数据为基准,其他数据多保留一位有效数字,再进行乘除运算,计算结果仍保留最少的有效数字加减运算中按小数位最少的保留。那么第一个乘法中最少的有效数位是4.17即3位,第二个乘法中最少的有效数字是0.0001即1位,第三个乘法中最少的有效数字是0.0121即3位。相加时则按小数位最小的保留,以小数点后位数最少的数据为基准,其他数据比它多保留一位,再进行加减计算,最终计算结果保留最少的位数。即按5.32。
回复

使用道具 举报

落雪绽菊 发表于 2011-7-13 19:12:15 | 显示全部楼层
中间结果可以多保留1位
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|计量论坛 ( 闽ICP备06005787号-1|闽公网安备35020602000072号 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs 原国防计量论坛(-=始于2005年=-)

GMT+8, 2026-1-8 04:07

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表