计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[质量] 砝码检定计算问题

[复制链接]
日全食 发表于 2012-3-8 21:46:22 | 显示全部楼层 |阅读模式
采用ABA循环,计算I。
读数:A1:10.0
B:10.5
A2:10.1

计算方法一:△I=B—(A1+A2/2=10.5—(10.0+10.1/2=10.510.05=0.45≈0.4


方法二:先算标准砝码平均平衡位置:(A1+A2/2=10.05
≈10.0
I=10.5-10.0=0.5
请问用哪种方法正确呢?
guoyang 发表于 2012-3-8 23:32:36 | 显示全部楼层
用两种都可以,但你在运算时,中间运算数据修约要多保留一位。
 楼主| 日全食 发表于 2012-3-9 11:09:11 | 显示全部楼层
但这两种方法计算结果不同
疯狂的土豆 发表于 2012-3-14 16:17:57 | 显示全部楼层
数据修约中间过程 需要多保留一位小数
保留之后计算就一样了
zhanghengheng 发表于 2012-4-19 13:17:44 | 显示全部楼层
第二种简单
anyideyouxiang 发表于 2016-6-27 15:23:43 | 显示全部楼层
这个△I应该是误差把,-△I就是修正值,这么理解对吗
anyideyouxiang 发表于 2016-6-27 15:24:24 | 显示全部楼层

这个△I应该是被检砝码的误差把,-△I就是被检砝码的修正值,这么理解对吗,急用,请大虾高手们回复
anyideyouxiang 发表于 2016-6-27 15:28:40 | 显示全部楼层
亲亲们,都看看看,急用的这个
张杉杉 发表于 2016-6-28 11:33:54 | 显示全部楼层
计算的时候应该最后修约就行,10.4
guoshuang 发表于 2016-7-20 17:17:47 | 显示全部楼层
看看计量基础中关于数字修约
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2025-5-7 12:10

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表