例如求 0.250mm,0.236mm,0.213mm,0.220mm的实验标准差时,X的平均值算出来是0.22975mm,应该怎样取有效位数,是0.230mm吗?如果单求平均值,有效位数又应该怎样选取? 还有在计算过程中,如果各个参与计算的有效位数不同,又应该怎样选取来进行计算,例如下面的计算题的解答正确吗? 8.计算18.3+1.454 6+0.876,问答案是多少?如果计算结果被用于下一步运算,答案应是多少? 解答:18.3+1.454 6+0.876≈18.3+1.45+0.88 = 20.63≈20.6 即答案是20.6。若用于下一步运算,则有效数字多取一位,即答案是20.63。 9、计算:28.1+14.54+3.0007 解答:28.1+14.54+3.0007≈28.1+14.54+3.00 = 45.64≈45.6 10、计算:4.3431+3.5714+4.64 解答:4.3431+3.5714+4.64≈4.343+3.571+4.64 = 12.554≈12.55 11、计算:10+1.747—2.007+1.1 解答:10+1.747—2.007+1.1≈10+1.7—2.0+1.1 = 10.8≈11 12、计算:1.1×0.326 8×0.103 00,问答案是多少?如果计算结果被用于下一步运算,答案应是多少? 解答:1.1×0.326 8×0.103 00≈1.1×0.327×0.103 = 0.037 0≈0.037 即答案是0.037。若计算结果被用于下一步运算,则多取一位有效数字,即答案是0.0370 13、计算:2.384 7×0.76÷416 78 解答:2.384 7×0.76÷416 78≈2.38×0.76÷4.17×104 = 4.337 649 88×10-5≈4.3×10-5 14、将数据12.344,12.351,12.450,12.350取到小数点后1位。 解答:12.3,12.4,12.4,12.4。 15、 计算:4.143 2×0.33×2.427 解答:4.143 2×0.33×2.427≈4.14×0.33×2.43 = 3.32≈3.3 16、计算:4.400+0.012×18.352÷0.200 2—1.52×2.0 解答:4.400+0.012×18.352÷0.200 2—1.52×2.0 ≈4.40+0.012×18.4÷0.200—2.25×2.0 ≈4.40+1.10—4.50 = 1.00 = 1.0 17、已知圆半径R = 3.145 mm,问周长C是多少? 解答:按公式 C=2πR =2.000×3.1416×3.145 =19.760 664
≈19.76 mm
|