计量论坛

 找回密码
 成为会员

QQ登录

只需一步,快速开始

搜索
查看: 5484|回复: 12

[质量] 关于电子天平检定过程中,位数的保留问题。

[复制链接]
发表于 2012-3-11 20:44:28 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有账号?成为会员

x
想请教各位老师:
    进行电子天平检定过程中数据的有效数字应该什么规则进行保留呢?例如天平偏载误差:E=I-L,Ec=E-Eo,其中用到的实际载荷L(g)=49.99998,所检测天平示值为I(g)=50.0042,那在计算误差E时,是不是应该按照天平示值的位数来进行修约呢?还有计算修正误差Ec时的有效位数又是保留几位呢?

谢谢各位解答!
 楼主| 发表于 2012-3-11 20:45:16 | 显示全部楼层
自己顶一下!
 楼主| 发表于 2012-3-11 20:45:34 | 显示全部楼层
自己顶一下!
发表于 2012-3-11 21:02:12 | 显示全部楼层
我是按照天平示值的位数
发表于 2012-3-11 21:08:35 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 21:08:40 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 21:08:50 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 21:08:51 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 21:08:53 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 21:08:55 | 显示全部楼层
按照天平示值的位数,也就是d  实际分度值,对应砝码级别来检定电子天平可以直接用标称值,
发表于 2012-3-11 22:36:49 | 显示全部楼层
划为mg就保留1位,即50.0042-49.99998=0.00422g*1000
                              =4.22mg保留一位=4.2mg
但是已经超差了。
发表于 2012-3-11 22:38:54 | 显示全部楼层
最大允许误差应该是0.5e ,也就是0.5mg,但你的值为4.2mg.
发表于 2012-3-15 20:27:49 | 显示全部楼层
用不用折算质量好像无关紧要啦,用名义值就好。
您需要登录后才可以回帖 登录 | 成为会员

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-4-28 14:06 , Processed in 0.057786 second(s), 20 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表