计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[数据] 请问近似数运算是先修约再运算还是先运算再修约

[复制链接]
yxd192 发表于 2014-4-19 22:34:07 | 显示全部楼层 |阅读模式
请问近似数运算是先修约再运算还是先运算再修约




运算中
 楼主| yxd192 发表于 2014-4-20 21:10:51 | 显示全部楼层
哪位回答一下呀,再好举实例
长度室 发表于 2014-4-21 18:01:47 | 显示全部楼层
个别数先修约,然后计算,最后再修约。加减看小数位数,乘除看有效数字个数。加减法中,其他加数的小数位数若过多,先修约至比小数位数最少的那个数多一位小数,然后计算,最后结果小数位数与小数位数最少的那个数一致。乘除法一样的道理。
hghyelh 发表于 2014-5-9 13:50:34 | 显示全部楼层
我也觉得应该是这样
plge 发表于 2014-5-15 15:36:20 | 显示全部楼层
例如
12.3+2.345+0.1234=12.3+2.34+0.12=14.76=14.8
24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6
2.8347×0.56=2.83×0.56=1.5848=1.6
2π/0.16=2×3.14/0.16=39.25=39
静水流深 发表于 2014-7-26 11:57:07 | 显示全部楼层
回复 5# plge 24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6?感觉不对呢?



    24000=0.024×10^6
规矩湾锦苑 发表于 2014-7-27 00:14:15 | 显示全部楼层
  加减法以参与计算的各数中小数点后位数最少的为标准修约,乘除法以参与计算的各数中有效数字个数最少的为标准修约,在计算过程中可适当多保留一位。
  24000+2.5×10^6=0.024×10^6+2.5×10^6=2.52×10^6=2.5×10^6
  因为这是加减计算,按小数点后位数最少的圆整,最少的位数是小数点后一位。5楼的示例除了24000笔误为0.24×10^6外,都是正确的。
都成 发表于 2014-7-27 20:23:05 | 显示全部楼层
本帖最后由 都成 于 2014-7-27 20:26 编辑

回复 1# yxd192

1  常数运算

参加运算的常数如πefile:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它无误差的数值,其有效位数可认为是无限的,在计算中需要几位取几位。常数的取值不影响有效位数。

2  加减运算

在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约。

例:12.5+3.26+0.165,先将0.165化整为0.16,则

      12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9

在减法运算中,应避免用两个接近的值相减计算结果,因相减后其有效数字将减少。

3  乘除运算

在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。

例:0.12×11.3×15.24,先将15.24修约为15.2,则0.12×11.3×15.24=0.12×11.3×15.2=20.61=21


4  乘方与开方运算

数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。

5  对数运算

运算结果应与真数的位数相同。

例:lg32.8=1.51587=1.52

6  三角运算

三角运算的有效位数按下表:

  角度误差    10    1    0.1    0.01  
  有效位数    5    6    7    8  

7  计算平均值

若数据的个数较多,则平均值的保留位数可增加一位。

8  混合运算

混合运算时所有中间运算比上面的运算多保留一位。

yeoman 发表于 2021-5-10 15:03:29 | 显示全部楼层

@都成:有相应的规范或标准没?我需要明确的规定文件。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-6-2 02:20

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表