计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[高频电压] 关于测量数据的处理

[复制链接]
LYunXing 发表于 2008-12-5 12:40:23 | 显示全部楼层 |阅读模式
一信号源的频率准确度是5E-5,现用测量接收机测1000MHz的频率,测到数据为999.997563,是否测量结果填999.997即可?
雍容华贵 发表于 2008-12-5 20:19:47 | 显示全部楼层
要是修约应该是999.998MHZ,如果是原始数据最好全部保留。
gogo3795 发表于 2008-12-14 14:57:30 | 显示全部楼层
需要全部保留,不用修约。准确度使用测量结果计算出来的,是不是合格取决于计算结果是否小于仪器的准确度指标。
huwenjing 发表于 2008-12-14 17:29:47 | 显示全部楼层
原始数据可以全部保留,如果要给不确定度就需要修约。
规矩湾锦苑 发表于 2008-12-15 13:26:18 | 显示全部楼层
我认为,测量结果的保留位数少了就会损失测量准确度,多了也是“假账真算”毫无价值。要确定测量结果的数据保留位数,一定要搞清楚“准确度是5E-5”的含义,以及近似计算的规则。准确度是5E-5表示测量结果应该由读数值和准确度等级经过乘除计算后得到。近似计算的乘除计算规则规定所有数据保留参与计算的数字中有效数字位数最少的位数加1。“准确度是5E-5”意味着保留有效数字6位半即可。所谓半位就是末尾数以5为单位。因此,测1000MHz的频率,测到数据为999.997563,对其以0.0005为单位进行圆整就是999.9975,测量结果填999.9975即可,如果是最终测量结果而不再继续进行计算,圆整到999.998也就可以了。
皖苏沪 发表于 2009-2-4 14:42:56 | 显示全部楼层
即使修约也应该是999.998MHZ,原始数据最好全部保留。
修约的方法要和你给的不确定度评定统一
lee_login 发表于 2009-3-15 15:54:24 | 显示全部楼层
四舍六入,奇进偶不进
hupeizhong 发表于 2009-4-16 22:02:02 | 显示全部楼层
一信号源的频率准确度是5E-5,现用测量接收机测1000MHz的频率,测到数据为999.997563,是否测量结果填999.997即可?
LYunXing 发表于 2008-12-5 12:40


我的理解:
实测值位数的取舍,不取决于被测的准确度,取决于所用测量标准的不确定度。
实测值有效位数的保留,最多只能和测量标准的不确定度保持一致。
但是这实测值的有效位数,可能会超出被测装置的准确度的量级,所以,实测值位数保留多了,也没有什么意义,可能只是跳动的不稳定数字而已。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-7 04:04

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表