yxd192 发表于 2008-7-1 00:31:36

请问,我们计算误差要保留几位小数

一块0.5级的表,我们计算出来误差是保留几位小数

例如:0.14%
该怎么记录

又如0.16%
该怎么记录呢

请回答

hkx7621 发表于 2008-7-1 08:02:24

0.5级表应该保留3个小数才好化整
如0.140化整后是0.15
0.160化整后是0.15

gao0351 发表于 2008-7-1 13:43:19

保留小数1位第2位修约
看标尺格数确定修约间隔,,,1,,,,,,,,,2,,或5
看124-2005的17页

solitaryfan 发表于 2008-7-1 16:31:39

保留几位小数,检定规程里都有的!一切以标准、规程为准。

yxd192 发表于 2008-7-2 00:20:02

对不起,楼上的各位会错意了

我不是说对数据的值要修约到多少格

而是对误差的计算,是个百分比,要怎么保留位数呢

是只要保留一位小数,还是怎么的

dalianfeiji 发表于 2008-7-2 22:46:55

回复 5# 的帖子

相对误差的保留位数要视被测参数技术指标中给定的误差位数而定,一般多给出一位小数就可以了。

gao0351 发表于 2008-7-4 12:38:45

1   与0.5%相比,保留小数一位也就够了,多了没用
2 乘法和除法运算的修约:在乘或除运算时,积或商的有效数字的位
一般应与参与运算的有效位数最少的那个观测值相同。

[ 本帖最后由 gao0351 于 2008-7-4 12:46 编辑 ]

赵子强 发表于 2022-2-18 12:25:06

多次测量:①1.2②1.3③1.5求均值是不是要多保留一位,1.33呢
页: [1]
查看完整版本: 请问,我们计算误差要保留几位小数