请教一个数据修约问题

钟无双 · 发表于 2013-8-27 19:38:38

某校准规范规定：数据修约到被检量程允许误差的1/10位。如：1.0级的表，量程是10V，标准器示值为：10.0135V。
是不是理解为，10V档的允许误差是0.1V，那10.0135V就修约为10.01V呢？
那如果是1.5级的表，10V档的允许误差为0.15V，10.0135V则修约为10.013V呢？

webdegree · 发表于 2013-8-27 21:46:57

这个好想好似有国标的，你找找看

jamdi · 发表于 2013-8-29 11:22:40

本帖最后由 jamdi 于 2013-8-29 11:23 编辑

如果你前面表述的都正确，引用校准规范正确，那么10.0135V则修约为10.014V 。可参考测量结果修约规则，遇5凑偶法。（印象是这样的，高手指错^_^)

imwei · 发表于 2013-8-29 23:32:32

回复 3# jamdi

恩，想到一块了，呵呵，遇5看前面一位，奇进偶不进。

钟无双 · 发表于 2013-9-3 20:33:37

其实我想问的重点在于。1.5级的仪表是不是要比1.0级的仪表多保留一位哦!

都成 · 发表于 2013-9-4 08:51:32

回复 5# 钟无双

不需要多保留一位，对于这个相同的数值，不论是1.0级还是1.5级、2.0级还是5级，只要是要求修约到其允差的1/10位，修约的末位都是相同的。

都成 · 发表于 2013-9-4 08:53:09

回复 1# 钟无双

如果是1.5级的表，10V档的允许误差为0.15V，10.0135V还是修约为10.01V。

都成 · 发表于 2013-9-4 08:55:36

回复 4# imwei

遇5看前面一位，奇进偶不进不错。但是保留的位数多了一位！

钟无双 · 发表于 2013-9-4 19:04:19

回复钟无双

如果是1.5级的表，10V档的允许误差为0.15V，10.0135V还是修约为10.01V。 ...
都成发表于 2013-9-4 08:53

既然要求修约到其允差的1/10位，那1.5级的表，10V档的允许误差为0.15V 。那0.15V/10不就是0.015V，是小数点后3位啊，为什么还是修约为10.01V呢？还是不懂，我很笨你可不可以仔细说下呀!

都成 · 发表于 2013-9-5 09:13:03

本帖最后由都成于 2013-9-5 09:14 编辑

回复 9# 钟无双

假如还是1.5级的表，假设有一个15V档，其允许误差是0.225V 。那0.225V/10就是0.0225V，是小数点后4位，还是修约为小数点后2位。

许多情况下计算得到的允差只有1为有效数字，此时修约到允差的1/10位很好理解，例如允差是0.1、0.2和0.5，其修约间隔都是0.01。如果计算得到的允差只有多位有效数字，此时修约到允差的1/10位只看最左一位，例如允差是0.15、0.225和0.555，其修约间隔也都是0.01。

修约看似简单，其实里边蕴含着对微小误差（不确定度）准则的原理的理解，有些规程中规定采用0.5单位修约与0.2单位修约，有的需要，有的其实完全没有必要，近年来提出的修约到允差的1/10位就很好。

mrshgq · 发表于 2013-9-27 16:04:29

提示: 作者被禁止或删除内容自动屏蔽

cjxsw · 发表于 2014-5-4 20:18:22

学习了学习了学习了

mdfeng · 发表于 2014-5-5 15:33:16

那如果是1.5级的表，10V档的允许误差为0.15V，10.0135V则修约为10.02V,10.0135V÷0.015V/格=667.566.....格，修约为668格，668×0.015=10.02V

chiyao · 发表于 2014-5-5 18:25:29

统一一下吧，考到就不怕了

yjctx · 发表于 2014-5-7 16:51:48

10.01,10.02都是对的,根据校准规范,保留位允许进一位

		自动登录	找回密码
密码			立即注册