找回密码
 立即注册

QQ登录

只需一步,快速开始

[数据] 数据中的小数点要如何确定

[复制链接]
umec 发表于 5 小时前 | 显示全部楼层 |阅读模式
有一台温度表测量范围-200 °C ~ 1372 °C, 准确度为 ±(0.2%+0.7)
使用一台多功能校准器FLUKE5520A用来校准它,
标准值为5520A上面的输出值,有两位小数点
指示值为待测温度表上面的显示值,部份为0.1的分辨率,部份为1的分辨率 (有些测试点为客户指定的点)
允许误差根据准确度±(0.2%+0.7),计算出来,有一位小数点( 如-200°C,允差为±1.1°C),二位小数点( 如-10°C,允差为±0.72°C),三位小数点( 如1372°C,允差为±3.444°C)

数据如图所示,
待测温度表的指示值(小数点已确认,按实际显示),请问一下,标准值,最大允许误差,不确定度,这三个小数点位数要如何确定?
1.png
 楼主| umec 发表于 4 小时前 | 显示全部楼层
最大允许误差是判定仪表合格与否的硬性边界。如果直接按照传统的“四舍五入”或“四舍六入”来修约,可能会导致边界缩窄或放宽。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|计量论坛 ( 闽ICP备06005787号-1|闽公网安备35020602000072号 )|网站地图
电话:0592-5613810 邮箱:473647@qq.com 微信:gfjlbbs 注册计量师考试(-=始于2005年=-)

GMT+8, 2026-7-29 16:13

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表