imwei 发表于 2014-4-2 18:06:02

原始记录中平均值和误差的保留位数问题？

我们在计算误差的过程中，经常要用到测量的平均值减去标准值，然后根据实际计算的误差来判定仪器的级别，操作过程中存在如下的情况，请指点应该如何处理？
1.平均值的位数小于标准值的位数，在计算平均值时是否要保留和标准值一样位数？
2.误差的保留位数要和计量检定规程中规定的允差的位数一致吗？---如酸度计的检定记录中的误差，要根据规程允差表的位数中来填写不？

酱里个酱 发表于 2014-4-2 19:35:04

1.应保留相同的位数
2.酸度计没做过，我想保留的位数应该满足实际要求即可

规矩湾锦苑 发表于 2014-4-3 12:12:49

原则上计算过程中的数据可保留比标准值或规定的允差值的位数多一位数，但最终结果应进行圆整，保留与标准值或规定的允差值相同的位数。

wang1011 发表于 2014-4-3 17:49:41

保留相同位数~~~~~~~

imwei 发表于 2014-4-3 19:26:22

回复 3# 规矩湾锦苑


    谢谢规矩湾锦苑老师指点。

imwei 发表于 2014-4-3 19:40:12

回复 4# wang1011


    谢谢！

路云 发表于 2014-4-5 19:19:49

回复 1# imwei

平均值作为中间结果，通常都是比示值的估读值多取一位。如果此时它仍比标准值的位数少，说明标准的准确度等级远高于被检器具。此时我个人认为应将标准读数修约到与平均值的小数位数一致后再进行误差计算(标准值中多出的位数已无意义)。强行在平均值后加零，使之与标准值的小数位数一致更无意义。

LHJ 发表于 2014-5-21 15:45:10

计算过程中先多留一位，最后结果的位数保留一致

fancysweet 发表于 2014-5-21 16:54:44

保留相同位数

空谈误国 发表于 2014-6-18 11:09:43

同上，必须保留相同位数，

yushiping 发表于 2014-6-22 20:02:16

没错，要保留相同位数。

zhaiyi 发表于 2023-4-6 14:36:26

如果最大允差是±5mm，测出来结果4.9和5.1，保留位数一样如何判定？

wangyiyong7703 发表于 2023-4-10 14:11:30

修约有两步;实测值的获得过程中依计算规则可能要“修约”一次（电脑计算的那种特别长的除外，用算盘类计算对这个规则特别敏感），不影响结论的，舍去无用数字，不能算真正意义上的修约，这一步得到全数值，一般是比有效数多一到两位，即保留一到两位可疑数字。下一步是真正意义上修约是根据判定指标，一般是相同位数。当修约影响结论时：宜按GB/T 8170-2008 数值修约规则与极限数值的表示和判定的要求做：按修约值，须有标准约定，有的是按成例，无标准成例按全数值判定。

iwite 发表于 2023-4-16 15:56:49

计算过程中多保留1位
页: [1]
查看完整版本: 原始记录中平均值和误差的保留位数问题？