计量论坛

 找回密码
 成为会员

QQ登录

只需一步,快速开始

搜索
查看: 5735|回复: 4

[交流] 不确定度评定时计算中间过程小数点位数的保留问题

[复制链接]
发表于 2010-10-17 18:43:42 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有帐号?成为会员

x
请教:在评定测量不确定度时,为防止计算过程中产生累积误差,我们在多保留了小数位数,到最终结果时再将数据修约为小数点后保留2位。这样做可以吗?
发表于 2010-10-17 20:20:00 | 显示全部楼层
回复 1# lhc2007


    你的思路是对的,注意到最后给出的不确定度数值最多为2位有效数字。
发表于 2010-10-18 16:33:41 | 显示全部楼层
不明白LZ的意思!我手里的校准证书的扩展不确定度都是0.00X的
发表于 2010-10-19 15:51:24 | 显示全部楼层
回复 1# lhc2007


    在计算过程中,为了避免过大的数据修约误差,中间过程一般要保留多余的位数。但最终结果的数据修约应一步到位,不得连续修约,避免导致修约误差和使不确定度增大。
 楼主| 发表于 2010-10-21 17:27:10 | 显示全部楼层
经专家指导,我心底踏实了,谢谢专家!
您需要登录后才可以回帖 登录 | 成为会员

本版积分规则

关闭

站长推荐上一条 /3 下一条

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 闽公网安备 35020602000072号

GMT+8, 2023-1-30 03:23 , Processed in 0.056847 second(s), 21 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表