本帖最后由 都成 于 2014-7-27 20:26 编辑
回复 1# yxd192
1 常数运算 参加运算的常数如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它无误差的数值,其有效位数可认为是无限的,在计算中需要几位取几位。常数的取值不影响有效位数。 2 加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约。 例:12.5+3.26+0.165,先将0.165化整为0.16,则 12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。 在减法运算中,应避免用两个接近的值相减计算结果,因相减后其有效数字将减少。 3 乘除运算 在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。 例:0.12×11.3×15.24,先将15.24修约为15.2,则0.12×11.3×15.24=0.12×11.3×15.2=20.61=21
4 乘方与开方运算 数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5 对数运算 运算结果应与真数的位数相同。 例:lg32.8=1.51587…=1.52 6 三角运算 三角运算的有效位数按下表: 角度误差 | 10″ | 1″ | 0.1″ | 0.01″ | 有效位数 | 5 | 6 | 7 | 8 |
7 计算平均值 若数据的个数较多,则平均值的保留位数可增加一位。 8 混合运算 混合运算时所有中间运算比上面的运算多保留一位。 |