计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[质量] 位数的保留

[复制链接]
fengying 发表于 2007-9-7 16:15:35 | 显示全部楼层 |阅读模式
标准值       示值
4.998       5.00      误差是=0.002 还是 0.00?
误差的有效位数末位应该以有效位数最小的对齐还是以精度高的对齐?
张剑川 发表于 2007-9-7 17:27:12 | 显示全部楼层
误差是=0.002
计量员-2 发表于 2007-9-7 21:01:05 | 显示全部楼层

回复 2# 的帖子

测量数值的加法和减法运算
多个观测值相加或相减时,求得的和或差只能保留一位欠准确数字。因此,最后结果的有效数字位数,应和参与运算各数中小数点后的有效数字位数最少的一个数相同。
在加减运算中,应先运算后修约,不得先修约后运算;即不得在加减运算之前,先把小数点后位数较多的数进行舍入修约,使之比小数点后位数最少的数多一位小数,然后再加减,最后对计算结果进行修约,使其与参与运算的数字中小数点后位数最少者相同。
所以误差应该是0.00

评分

参与人数 1金币 +2 收起 理由
zcyjkl + 2 热心回复

查看全部评分

z320741 发表于 2007-9-10 09:55:47 | 显示全部楼层
因为误差是用来为测量结果提供准确度信息的,所以测量值的最小位应与保留的误差误差位数相对齐,并截断。在截断时应按修约规则进行修约。例如误差为0.01,测量值应保留到小数点后两位,误差为0.001时,测量值应保留到小数点后三位。
对于一般性测量,有效位数根据计量器具的最小刻度值来确定,即有效数值的最后一位为估读值,其他位都是准确数字。
[摘自]《计量基础知识及管理讲义--北京计量协会》

[ 本帖最后由 z320741 于 2007-9-10 10:06 编辑 ]

评分

参与人数 1金币 +2 收起 理由
zcyjkl + 2 热心回复

查看全部评分

hwd2003 发表于 2007-9-10 10:32:10 | 显示全部楼层
误差的表达应该和测量结果一致。所以应该是0.00。
dalianfeiji 发表于 2007-9-15 20:16:52 | 显示全部楼层

回复 1# 的帖子

4#的回复是正确的。测量结果有效位数的保留,应视被检表给出的误差而定。
jerb 发表于 2007-9-17 13:17:41 | 显示全部楼层
同意6#楼的说法,“测量结果有效位数的保留,应视被检表给出的误差而定”。被检仪器的示值是“5.00”,只能精确到小数点后两位,因此误差也应该四舍五入保留到小数点后两位,所以应该是0.00,误差为零是不管几个小数点通常都写成0。
yuyi121 发表于 2007-9-17 15:08:34 | 显示全部楼层
意见不太统一啊 能否请位专家给个正确的答案啊
lymex 发表于 2007-9-17 15:13:21 | 显示全部楼层
这里是否涉及误差的误差问题。误差的误差是误差的1/3就可以认为很小,是1/5就可以忽略。但是,把误差舍得太厉害,就看不出误差的误差了。0.002 --> 0.00 --> 0.0 --> 0
记得以前看精密的计量数据,误差都是保留两位有效数字。

[ 本帖最后由 lymex 于 2007-9-17 15:15 编辑 ]
风吹石 发表于 2007-9-17 19:46:43 | 显示全部楼层

回复 8# 的帖子

3#的回答就是有专家水平的,就示值"5.00"来说,后一个"0"在计量仪器上就是估读的,是不准确数字,标准的读数"4.998"中的"8"是不准确数字,两者相减后再修约,只能保留最前的一位不准确数字,所以楼主出的题目准确的答案只有一个,就是0.00.
前面还有说用四舍五入来修约,可能还不知道数字修约的规则是"四舍六入五留双"的.
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2025-5-4 03:16

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表