计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

请问计算时有效位数的选取问题

[复制链接]
XCJL 发表于 2012-8-13 15:51:29 | 显示全部楼层 |阅读模式
例如求

0.250mm0.236mm0.213mm0.220mm的实验标准差时,X的平均值算出来是0.22975mm,应该怎样取有效位数,是0.230mm吗?如果单求平均值,有效位数又应该怎样选取?

还有在计算过程中,如果各个参与计算的有效位数不同,又应该怎样选取来进行计算,例如下面的计算题的解答正确吗?

8.计算18.3+1.454 6+0.876,问答案是多少?如果计算结果被用于下一步运算,答案应是多少?

   解答:18.3+1.454 6+0.876≈18.3+1.45+0.88 = 20.63≈20.6

       即答案是20.6。若用于下一步运算,则有效数字多取一位,即答案是20.63

9、计算:28.1+14.54+3.0007

   解答:28.1+14.54+3.0007≈28.1+14.54+3.00 = 45.64≈45.6

10、计算:4.3431+3.5714+4.64

   解答:4.3431+3.5714+4.64≈4.343+3.571+4.64 = 12.554≈12.55

11、计算:10+1.747—2.007+1.1

   解答:10+1.747—2.007+1.1≈10+1.7—2.0+1.1 = 10.8≈11

12、计算:1.1×0.326 8×0.103 00,问答案是多少?如果计算结果被用于下一步运算,答案应是多少?

   解答:1.1×0.326 8×0.103 00≈1.1×0.327×0.103 = 0.037 0≈0.037

即答案是0.037。若计算结果被用于下一步运算,则多取一位有效数字,即答案是0.0370

13、计算:2.384 7×0.76÷416 78

   解答:2.384 7×0.76÷416 78≈2.38×0.76÷4.17×104 = 4.337 649 88×10-5≈4.3×10-5

14、将数据12.34412.35112.45012.350取到小数点后1位。

   解答:12.312.412.412.4

15、 计算:4.143 2×0.33×2.427

解答:4.143 2×0.33×2.427≈4.14×0.33×2.43 = 3.32≈3.3

16、计算:4.400+0.012×18.352÷0.200 2—1.52×2.0

解答:4.400+0.012×18.352÷0.200 2—1.52×2.0

≈4.40+0.012×18.4÷0.200—2.25×2.0

≈4.40+1.10—4.50

= 1.00 = 1.0

17、已知圆半径R = 3.145 mm,问周长C是多少?

解答:按公式    C=2π

          =2.000×3.1416×3.145

                   =19.760 664                     


≈19.76 mm

上星亮晶晶 发表于 2012-8-13 19:22:28 | 显示全部楼层
回复 1# XCJL

17、已知圆半径R = 3.145 mm,问周长C是多少?

解答:按公式    C=2π

          =2×3.1416×3.145

                   =19.760 664                     


≈19.8 mm

我是这样认为的

 楼主| XCJL 发表于 2012-8-15 11:28:48 | 显示全部楼层
请大家共同讨论,期待各位的解答
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-17 06:18

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表