计量论坛

 找回密码
 成为会员

QQ登录

只需一步,快速开始

搜索
查看: 6000|回复: 8

[数据] 求单位换算结果!

[复制链接]
发表于 2010-1-16 17:24:53 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有账号?成为会员

x
长度L=(7.08+/-0.05)in换算为以mm为单位时的L表达式。
发表于 2010-1-16 17:50:56 | 显示全部楼层
这里有一个条件范围的单位换算的例子,虽然是压力的,但原则是一样的,可以参考:
原则:修约区间不大于原容许范围量值的十分之一。(修约误差只有原容许范围量值的百分之五,可以忽略)
例,设某实验室条件为:p=(200±15)lbf/in2,要求换算为压力单位Pa表示的值。
解:已知 容许范围为15 lbf/in2,它的十分之一为1.5 lbf/in2,按单位换算方程式
1 lbf/in2=6.894 757 kPa
得1.5 lbf/in2,=10.3 kPa
200 lbf/in2,=1 378.951 4 kPa
根据单位换算后,修约区间不大于原容许范围量值的十分之一的原则,换算后的数值的修约区间应取10 kPa。此时与单位换算结果相近的整数倍1 370、1 380、1 390等中,1 380为合适的修约数。因此单位换算后的实验条件是:
p=(1 380±10) kPa
发表于 2010-1-16 22:57:35 | 显示全部楼层
英寸是以带分数(整数加真分数)的形式表现的。1 in(英寸)= 25.4mm(毫米)
发表于 2010-1-17 15:49:56 | 显示全部楼层
和我所举得例子不同的是,LZ问题的结果不需要凑整,只要按照25.4的换算系数直接计算就行了,只是注意跟所提问题保持一致,就是保留两位小数。如果后面是不确定度的话就只进不舍。如果是公差值,则有“极大值只舍不入,极小值只入不舍”原则。
 楼主| 发表于 2010-1-17 19:38:00 | 显示全部楼层
L=(180+/-1.27)mm对吗?
发表于 2010-1-17 20:04:49 | 显示全部楼层
本帖最后由 风吹石 于 2010-1-17 20:15 编辑

回复 5# youwen2919


不说不确定度,单就公差配合来说,如果是保留两位小数,180+/- 1.27mm应该是没问题的,因为180+1.27与原要求相同,而180-1.27已经超过原要求了。
但在实际加工中能否执行到0.01mm?如果不能,则1.27就没有意义,必需进位。在保留一位小数的情况下,个人认为最佳是180+/- 1.1mm。
 楼主| 发表于 2010-1-18 10:12:50 | 显示全部楼层
后面的是不确定度的,最佳答案是什么呢?
 楼主| 发表于 2010-1-19 13:35:29 | 显示全部楼层
后面的是不确定度的,最佳答案是什么呢?
发表于 2010-11-22 12:09:50 | 显示全部楼层
1 in(英寸)= 25.4mm(毫米)
您需要登录后才可以回帖 登录 | 成为会员

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1—304所 )
电话:0592-5613810 QQ:473647 微信:gfjlbbs闽公网安备 35020602000072号

GMT+8, 2024-4-25 22:16 , Processed in 0.052919 second(s), 20 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表