计量论坛

 找回密码
 成为会员

QQ登录

只需一步,快速开始

搜索
查看: 3669|回复: 6

[数据] 数据修约

[复制链接]
发表于 2010-12-30 21:02:44 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有账号?成为会员

x
拟修约数是15.225,修约间隔是0.05,修约结果是多少?
发表于 2010-12-30 22:42:06 | 显示全部楼层
修约结果是15.20
发表于 2010-12-31 09:38:36 | 显示全部楼层
修约办法:1.  15.225*2=30.45
               2.   修约到0.1   30.4
               3.   30.4/2=15.2
               4.   补其位数至修约间隔  15.20
 楼主| 发表于 2010-12-31 15:02:23 | 显示全部楼层
回复 3# yzjl3420646


    新手多指教,第二步为什么修约到0.1
发表于 2010-12-31 17:13:36 | 显示全部楼层
15.225,修约间隔0.05,可以修约为15.20或15.25,12.20是修约间隔0.05的偶数倍,12.25为奇数倍,所以应修约为12.20(同等地接近拟修约数15.225,修约间隔偶数倍的是修约结果)
发表于 2010-12-31 17:22:06 | 显示全部楼层
1.将修约间隔5变成修约间隔1:
  0.05÷5=0.01;15.225÷5=3.045;
2.按正常修约规则修约到0.01得:3.04
3.恢复修约间隔5,修约到0.05:
    3.04×5=15.20
发表于 2011-1-1 09:42:54 | 显示全部楼层
回复 4# lishengchun

详见GB/T 8170-2008《数据修约规则与极限数值的标示和判定》
http://www.gfjl.org/thread-87695-1-1.html
您需要登录后才可以回帖 登录 | 成为会员

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-4-29 21:04 , Processed in 0.040001 second(s), 16 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表