计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 736|回复: 16

[数据分析处理] 关于最大允许误差的小数位和修约

[复制链接]
发表于 2018-10-11 15:35:45 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
本帖最后由 识海无涯 于 2018-10-11 15:43 编辑

请教各位老师:
        在电磁学校准报告中,给出的最大允许误差的位数,是与被测对象的分辨率对应一致吗?
        比如被测1.00kV,技术指标为±(2%+5V),最大允许误差算出来是0.025kV。
        那么报告中,最大允许误差,是用0.025kV呢还是修约成两位?
        如果修约,尾数5是直接舍掉还是进位呢?

学习资料

学习资料
发表于 2018-10-11 15:45:52 | 显示全部楼层
本帖最后由 吴下阿蒙 于 2018-10-11 15:48 编辑

最大允许误差难道不该是分辨率的整数倍嘛?
发表于 2018-10-11 16:11:31 | 显示全部楼层
1.00KV是被检的显示位数就是小数点后两位吗?如果要修约,一般最大允许误差的修约是只舍不进,也就是±0.02KV。按道理1KV能显示到1.000KV的,这样的话就不用修约。你是不是搞错了?还有就是你的2%是Rdg还是FS?
 楼主| 发表于 2018-10-11 16:37:07 | 显示全部楼层
springwood 发表于 2018-10-11 16:11
1.00KV是被检的显示位数就是小数点后两位吗?如果要修约,一般最大允许误差的修约是只舍不进,也就是±0.02 ...

谢谢,被检设备的设定输出是1.00kV,只有两位小数,这个是确定的。标准器是有三位小数。
 楼主| 发表于 2018-10-11 16:39:37 | 显示全部楼层
吴下阿蒙 发表于 2018-10-11 15:45
最大允许误差难道不该是分辨率的整数倍嘛?

谢谢,我上面是根据仪器给出的技术指标计算而来。
发表于 2018-10-11 16:47:54 | 显示全部楼层
识海无涯 发表于 2018-10-11 16:37
谢谢,被检设备的设定输出是1.00kV,只有两位小数,这个是确定的。标准器是有三位小数。 ...

这样的话按要求就是±0.02KV了,正好误差三位小数,但是舍掉的0.005占原数据0.025的比例达到20%了,感觉还是有问题。
 楼主| 发表于 2018-10-11 16:53:19 | 显示全部楼层
springwood 发表于 2018-10-11 16:47
这样的话按要求就是±0.02KV了,正好误差三位小数,但是舍掉的0.005占原数据0.025的比例达到20%了,感觉 ...

是啊,就是这一点,让人比较困惑,找不到有力的依据。
发表于 2018-10-11 17:01:01 | 显示全部楼层
识海无涯 发表于 2018-10-11 16:39
谢谢,我上面是根据仪器给出的技术指标计算而来。

我知道是技术指标计算的,我的意思我对这个技术指标比较困惑。一般最大允许误差比分辨力大的多的,这个仪器光分辨力造成的舍入误差就很大了。
发表于 2018-10-11 17:16:30 | 显示全部楼层
我觉得这个不需要修约
发表于 2018-10-11 17:32:10 | 显示全部楼层
我也认为不需要修约
发表于 2018-10-11 17:49:09 | 显示全部楼层
不必修约,直接用就可以了。

        基本上是输出电压的仪器,如耐压测试仪之类的,常常给出这种格式的“最大允许误差”。最后的那个“5V”的尾巴,主要是解决输出电压较小的时候不至于超差。比如电压设定成0.00kV的时候,输出电压不能完全回到0V,稍有电压值就会导致超差。

        而在校准它的时候,标准器读数总是多出一位,在合格评定时,这个“5V”的尾巴就具有实际意义了,如楼上有的量友所言,MPE大了20%。
发表于 2018-10-12 21:28:57 来自手机 | 显示全部楼层
mpe是说明书给出的,算出是多少就是多少,没有理由修约,而且也不影响使用,还是用示值误差与mpe比较就是了
 楼主| 发表于 2018-10-13 09:14:04 | 显示全部楼层
chuxp 发表于 2018-10-11 17:49
不必修约,直接用就可以了。

        基本上是输出电压的仪器,如耐压测试仪之类的,常常给出这种格式的“ ...

谢谢,我看有些模版也是直接用。
 楼主| 发表于 2018-10-13 09:19:37 | 显示全部楼层
oldfish 发表于 2018-10-12 21:28
mpe是说明书给出的,算出是多少就是多少,没有理由修约,而且也不影响使用,还是用示值误差与mpe比较就是了 ...

示值误差与mpe比较也可以吗?因为之前培训老师说是mpe的小数位与被测分辨力同位,示值误差位数多一位,所以有此困惑。刚入计量没多久,有太多相关知识没有融会贯通。
 楼主| 发表于 2018-10-13 09:20:59 | 显示全部楼层
刘耀煌 发表于 2018-10-11 17:16
我觉得这个不需要修约

嗯,我是想找到这个需要与不需要之间的依据或相关规范。
发表于 2018-10-13 10:52:18 来自手机 | 显示全部楼层
识海无涯 发表于 2018-10-13 09:19
示值误差与mpe比较也可以吗?因为之前培训老师说是mpe的小数位与被测分辨力同位,示值误差位数多一位,所 ...

示值误差与mpe比较就是来判定合格与否啊。你们培训老师说得不对,或者你没听清楚。
去学学注册计量师的教材吧,系统地学习计量。
发表于 2018-10-13 20:55:24 来自手机 | 显示全部楼层
识海无涯 发表于 2018-10-13 09:20
嗯,我是想找到这个需要与不需要之间的依据或相关规范。

如果需要修约应该有规范告诉你修约规则,如果不需要修约就不需要有规范规定了吧
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1 © 2005-2015 计量论坛——304所 )
电话:0592-5613810 QQ:473647 微信号:gfjlbbs 微信公众:gfjlorg 闽公网安备 35020602000072号

GMT+8, 2018-12-15 02:06 , Processed in 0.125696 second(s), 23 queries .

Powered by Discuz! X3.2

© 2001-2016 Comsenz Inc.

快速回复 返回顶部 返回列表