不确定度评定时计算中间过程小数点位数的保留问题

lhc2007 · 发表于 2010-10-17 18:43:42

您需要登录才可以下载或查看，没有账号？成为会员

x

请教：在评定测量不确定度时，为防止计算过程中产生累积误差，我们在多保留了小数位数，到最终结果时再将数据修约为小数点后保留2位。这样做可以吗？

aux8180 · 发表于 2010-10-17 20:20:00

回复 1# lhc2007

你的思路是对的，注意到最后给出的不确定度数值最多为2位有效数字。

sfcl上海 · 发表于 2010-10-18 16:33:41

不明白LZ的意思！我手里的校准证书的扩展不确定度都是0.00X的

张艳 · 发表于 2010-10-19 15:51:24

回复 1# lhc2007

在计算过程中，为了避免过大的数据修约误差，中间过程一般要保留多余的位数。但最终结果的数据修约应一步到位，不得连续修约，避免导致修约误差和使不确定度增大。

lhc2007 · 发表于 2010-10-21 17:27:10

经专家指导，我心底踏实了，谢谢专家!

		自动登录	找回密码
密码			成为会员