计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

求解释

[复制链接]
jingbo007 发表于 2018-6-6 22:44:37 来自手机 | 显示全部楼层 |阅读模式
数字修约不是很明白,近似值修约误差不超过末位单位量值的一半,不是很明白
zys0804 发表于 2018-6-7 14:14:27 | 显示全部楼层
我的理解是:比如0.326,修约后保留两位小数为0.33,修约误差为0.004,末位单位量值为0.006,其一半为0.003
刘耀煌 发表于 2018-6-7 14:41:32 | 显示全部楼层
zys0804 发表于 2018-6-7 14:14
我的理解是:比如0.326,修约后保留两位小数为0.33,修约误差为0.004,末位单位量值为0.006,其一半为0.003 ...

按你举的例子,修约后末位单位量值是0.01,其一半为0.005,修约误差=0.004<0.005。如果是0.334,保留2两位小数也是0.33,修约误差=0.004<0.005。修约误差最大的情况,出现在修约前末位数字为5的情况,比如0.325、0.335,此时修约误差=0.005。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-10 11:16

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表