请问，我们计算误差要保留几位小数

yxd192 · 发表于 2008-7-1 00:31:36

您需要登录才可以下载或查看，没有账号？立即注册

x

一块0.5级的表，我们计算出来误差是保留几位小数

例如：0.14%
该怎么记录

又如0.16%
该怎么记录呢

请回答

hkx7621 · 发表于 2008-7-1 08:02:24

0.5级表应该保留3个小数才好化整
如0.140化整后是0.15
0.160化整后是0.15

gao0351 · 发表于 2008-7-1 13:43:19

保留小数1位第2位修约
看标尺格数确定修约间隔,,,1,,,,,,,,,2,,或5
看124-2005的17页

显示全部楼层 · 发表于 2008-7-1 16:31:39

保留几位小数，检定规程里都有的！一切以标准、规程为准。

yxd192 · 发表于 2008-7-2 00:20:02

对不起，楼上的各位会错意了

我不是说对数据的值要修约到多少格

而是对误差的计算，是个百分比，要怎么保留位数呢

是只要保留一位小数，还是怎么的

dalianfeiji · 发表于 2008-7-2 22:46:55

相对误差的保留位数要视被测参数技术指标中给定的误差位数而定，一般多给出一位小数就可以了。

gao0351 · 发表于 2008-7-4 12:38:45

1 与0.5%相比,保留小数一位也就够了,多了没用
2 乘法和除法运算的修约：在乘或除运算时，积或商的有效数字的位
一般应与参与运算的有效位数最少的那个观测值相同。

[ 本帖最后由 gao0351 于 2008-7-4 12:46 编辑 ]

赵子强 · 发表于 2022-2-18 12:25:06

多次测量:①1.2②1.3③1.5求均值是不是要多保留一位，1.33呢

		自动登录	找回密码
密码			立即注册

账号		自动登录	找回密码
密码			立即注册

[交直流高电压] 请问，我们计算误差要保留几位小数