找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[讨论] 小数点位数问题

[复制链接]
umec 发表于 3 小时前 | 显示全部楼层 |阅读模式
请教一个问题,在案例回答问题中,经常会遇到求平均值,或者求不确度分量,然后下一步的计算会用到这些值,如果小数点取的不一样,代入计算的结果也会不一样。要如何正确取小数点的位数呢?
如:测量三次的值为20.1 N , 20.2 N, 20.1 N 计算算术平均值
/X=(20.1 N+20.2 N+20.1 N)/3 = 20.13 N(取两位是因为后续计算过程更准确), 还是要保留与测量数据一样的 20.1 N

因为两者数据不一样,导入后续的计算也会不一样,要如何正确取小数点呢?
phh123 发表于 1 小时前 | 显示全部楼层
平均值比测得值多一位小数  不确定度分量比平均值多一位小数 扩展不确定度与测得值位数对齐
回复 支持 反对

使用道具 举报

路云 发表于 1 小时前 | 显示全部楼层

应该先求出该测量结果的扩展不确定度(按修约规则保留1至2位有效数字),然后将测量结果(平均值)修约至与不确定度的末位对齐。

回复 支持 反对

使用道具 举报

gx_liumh 发表于 25 分钟前 | 显示全部楼层
在计算中,平均值比测得值多一位小数,且作为最后的表达结果。不确定度分量在计算过程中要比平均值多取一位小数,到最后的表达结果,扩展不确定度与平均值位数对齐(取一位或两位有效数字)。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|计量论坛 ( 闽ICP备06005787号-1|闽公网安备35020602000072号 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs 原国防计量论坛(-=始于2005年=-)

GMT+8, 2026-3-20 14:40

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表