计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

关于比对结果的问题

[复制链接]
远离尘埃 发表于 2012-9-10 11:01:56 | 显示全部楼层 |阅读模式
量友们,我想问一个问题,在案例详解上有点题p230例2,根据比对公式都是计算出来是Lab1=-0.00000045   Lab2=0.00000089  
Lab3=-0.00000095  剩下的差不多都基本是10负7次方,或者10负6次方,但是为什么书上算的En值为-0.45   0.89   -0.95.。。。。。。。??他是怎么得来的,为什么要舍去6个0??
 楼主| 远离尘埃 发表于 2012-9-10 11:15:47 | 显示全部楼层
而且第二版书上408页他算的又是对的,正搞不懂怎么回事,就是那个En值计算公式算的
 楼主| 远离尘埃 发表于 2012-9-10 11:18:12 | 显示全部楼层
我晕,不好意思i,我在这里耽误大家时间了,原来参考值的不确定度是1uV,这样计算下来,书上的是对的,哎,太粗心大意了
imwei 发表于 2012-9-12 00:32:37 | 显示全部楼层
不过注册计量师书上P408的最后一个En值有笔误,应该是1.12计算出来,没有负号:)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2025-5-14 02:30

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表