计量论坛

用户名  找回密码
 立即注册

QQ登录

只需一步,快速开始

帖子

[数据] 测量结果的有效位数

[复制链接]
随风飘扬 发表于 2009-5-25 20:19:37 | 显示全部楼层 |阅读模式
一块压力表校准点(单位MPa)是0    1     2    3    4等,各校准点的读数是0    0.995   1.995    2.990     3.985  等,请问各位:
记录中0点的结果是写0,还是应写成0.000  ?为什么?
zhoujidai 发表于 2009-5-26 11:59:27 | 显示全部楼层
0点应写成0.000,这样表示精确到小数点后三位,如果0点写成0,而后面各点保留到小数点后三位,不符合记录的格式,也不符合数字修约的规则。
深圳渔民 发表于 2009-5-27 16:32:55 | 显示全部楼层
我认为压力表的0点不是校准点,也不是压力表的测量下限值。不知道理解是否正确。
风吹石 发表于 2009-5-31 09:59:55 | 显示全部楼层
应该写成0.000,因为有时指针不是绝对就在零位上的,代表着零位偏差,特别是压力表,还有回零差必须记录的。
五七一二 发表于 2009-6-7 03:49:31 | 显示全部楼层
数据修约中有规定的。有效位数的确定应该根据最小分辨率确定。应该写成0.000,而且在数据运算过程中也有相关规定。只是你没去看而已。
dbhlong 发表于 2009-7-3 15:12:39 | 显示全部楼层
本帖最后由 dbhlong 于 2009-7-3 15:16 编辑

应结合分度值读数要求1/5法来选取位数,如分度值是1MPa的应读0.0;0.1MPa的应读0.00;0.01MPa的应读0.000;等,后面各点也应保留相同位数。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2025-6-2 15:56

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表