计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

有效数字计算题

[复制链接]
星天河 发表于 2010-9-8 13:08:53 | 显示全部楼层 |阅读模式
1)6.321 - 6.321 = ?
规矩湾锦苑 发表于 2010-9-8 18:48:10 | 显示全部楼层
呵呵,应该是0.000吧。
zhoujidai 发表于 2010-9-9 09:31:45 | 显示全部楼层
同意版主的答案:0.000
许家诚 发表于 2010-9-9 15:04:21 | 显示全部楼层
答案是完全正确的
 楼主| 星天河 发表于 2010-9-11 14:08:13 | 显示全部楼层
感谢版主及楼上几位的答复,按有效数字加减运算规则,结果应为0.000。表明是经过计算有效到小数点后第三位,但按有效数字的定义,0.000没有效数字,即然没有有效数字,存在矛盾,那么0.000似乎直接写成0也可以了。建议要对这样情况时将有效字定义作出进一步的补充规定就好了。
zhoujidai 发表于 2010-9-11 14:34:22 | 显示全部楼层
回复 5# 星天河

单从数学计算中的有效数字来说,小数点后面的0是没有意义的,0.000应该写出0;但在计量检定/校准中的数字修约就不同了,它还有另一层含义,小数点后面的0反映了近似数的误差,是不能随意取舍的。
redleaf 发表于 2010-9-12 12:59:09 | 显示全部楼层
数学题就是0,有效数字则是0.000
路云 发表于 2020-7-22 21:26:44 | 显示全部楼层
zhoujidai 发表于 2010-9-11 14:34
回复 5# 星天河

单从数学计算中的有效数字来说,小数点后面的0是没有意义的,0.000应该写出0;但在计量检 ...

这个例子不应该是“有效数字”的概念,而应该是“精确到某位”的概念。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-5-19 23:56

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表