计量论坛

 找回密码
 成为会员

QQ登录

只需一步,快速开始

搜索
查看: 5137|回复: 5

[数据] 数据修约

[复制链接]
发表于 2018-5-31 16:23:18 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有账号?成为会员

x
请问各位老师几个修约问题,请不吝赐教
1.在数据处理时如果标准值和示值不同位怎么处理?
例如,测量温湿度表温度时,如果标准值为20.3℃,而温湿度表分度值为2℃,估读1/2到1℃,示值为21℃,那么示值误差是1℃还是0.7℃,应该保留几位?
2.在评定不确定度时,扩展不确定度保留一到两位有效数字,那么如果用相对扩展不确定度表示时,应该怎么修约有没有明确规定?
3.在工作中还没遇到乘除法的修约,保留位数问题,还是想知道两个都不是整数的数字相乘或相除应该怎么修约?
例如,0.5/0.06    0.5*0.06
发表于 2018-5-31 17:21:24 | 显示全部楼层
1、示值误差实际测得多少就是多少,例子中误差是0.7℃,如果标准是20.03℃,那误差就是0.07℃。一般我们都会选择相应的标准器来检仪器,示值误差测出来是多少就多少,不需要修约,除非你用精度远高于规程要求的标准,标准位数比被测高了很多,可以考虑修约到满足标准要求的位数即可。

补充内容 (2018-6-1 08:12):
对不起,我太不严谨出错了,如果标准是20.03℃,指示值是21℃,则误差应该是0.97℃。
发表于 2018-5-31 17:22:24 | 显示全部楼层
2、相对不确定度表示的时候,保留2位有效位数也是一样的,比如1.2%,0.5%这样。在百分比里面算有效位数。
发表于 2018-5-31 17:23:05 | 显示全部楼层
3、两个都不是整数的数字相乘除,你可以计算出乘除结果之后再进行修约啊。
 楼主| 发表于 2018-6-1 17:19:36 | 显示全部楼层
cindycoco 发表于 2018-5-31 17:23
3、两个都不是整数的数字相乘除,你可以计算出乘除结果之后再进行修约啊。
...

老师  前两点我理解了   第三个还是没懂,比如R=U/I   如果电压0.56V  电流0.22A   那么电阻是2.545454545Ω,那么报告测得的电阻值应该保留几位有效数字?修约规则懂了  就是不知道要修约到多少位
发表于 2018-6-1 17:27:23 | 显示全部楼层
R=U/I   如果电压0.56V  电流0.22A   那么电阻是2.545454545Ω  计算错了,应该是2.727272。。。,结果保留2.7Ω就可以了
您需要登录后才可以回帖 登录 | 成为会员

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-3-29 17:50 , Processed in 0.034046 second(s), 16 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表