计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[光谱/光度] 请教一个关于PH计数据处理的问题

[复制链接]
fujiale 发表于 2011-7-31 21:02:21 | 显示全部楼层 |阅读模式
计量检定原始数据中的数据处理的有效数字是怎么规定的

举个例子:
仪器分度值位0.1,示值是8.1,标称值是8.00,那么示值误差是0.10还是0.1?
重复性是0.0还是0.00?


仪器分度值是0.001的,但是是0.01级的仪器
如果示值是8.006,标称值是8.00,那么示值误差是0.006还是0.01呢
重复性是0.00还是0.000?
porny 发表于 2011-8-1 13:16:10 | 显示全部楼层
仪器分度值位0.1,示值是8.1,标称值是8.00,感觉示值误差是0.1吧。仪器的示值才到小数点后一位,示值误差精确到小数点后两位,不合适
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2025-5-7 02:49

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表