计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[数据] 千分尺示值误差保留小数位数?

[复制链接]
中秋之缘 发表于 2018-6-27 12:22:02 | 显示全部楼层 |阅读模式
测量0-25mm/0.01mm的千分尺,在处理示值误差数据时,考虑量块的修正值后,得出来的数据保留几位小数?是保留1位小数吗?例如:受检点误差值为1μm,量块修正值为+0.14μm,则示值误差为0.9μm?
长度室 发表于 2018-6-27 15:25:17 | 显示全部楼层
最终是1μm。直接读得的误差值为1μm,本身就是近似数(估读值),这就是近似数的加减法问题了,近似数的加减法的结果与小数位数最少的那一个看齐。量块的修正值位数再多,跟在估读的一位后面也是没有意义的。
 楼主| 中秋之缘 发表于 2018-6-27 15:38:59 | 显示全部楼层
明白了,谢谢
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-18 11:05

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表