计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 5664|回复: 1

[概念] 数据运算规则

 关闭 [复制链接]
发表于 2007-8-13 20:08:02 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有账号?立即注册

x
数据运算规则
在近似数运算过程中,所有参与运算的数据,在有效数字后可多保留一位以上数字,称为安全数字。
⑴加减法的运算
多个观测值相加或相减时,求得的和或差只能保留一位欠准确数字。因此,最后结果的有效数字位数,应和参与运算各数中小数点后的有效数字位数最少的一个数相同。
在加减运算中,应先运算后修约,不得先修约后运算;即不得在加减运算之前,先把小数点后位数较多的数进行舍入修约,使之比小数点后位数最少的数多一位小数,然后再加减,最后对计算结果进行修约,使其与参与运算的数字中小数点后位数最少者相同。
⑵乘除法的运算
在乘或除运算时,积或商的有效数字的位数一般应与参与运算的有效位数最少的那个观测值相同。
在相乘或除之前,不得先翁多余位数进行舍入修约,然后再相乘除。
⑶乘方和开方的运算
对观测值进行乘方或开方运算时,原数值有几位有效数字,计算结果就可保留几位有效数字。
⑷对数运算
进行对数运算时,对数值的有效位数由尾数部分的位数决定;首数部分为10的幂数,与有效数字位数无关。
对数值的有效数字位数应与原数的有效数字位数相等。

评分

参与人数 1金币 +2 收起 理由
lzl_1972 + 2 热心!

查看全部评分

发表于 2007-8-13 20:57:19 | 显示全部楼层
希望楼主以后能把这些规定摘自哪本资料交代清楚,以便于大家讨论和学习
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-2 11:14 , Processed in 0.063840 second(s), 31 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表