计量论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 419|回复: 16

求一道题解答

[复制链接]
发表于 2018-6-13 15:55:40 来自手机 | 显示全部楼层 |阅读模式

立刻注册计量论坛 交流工作中的点滴

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
计算过程,朋友们
IMG_20180613_153702.jpg
发表于 2018-6-13 16:18:07 | 显示全部楼层
D,先计算10mV量程点最大允许误差,再除以10mV, +/-(0.005%*0.010+0.005%*1)/0.010*100%=+/-0.5%
 楼主| 发表于 2018-6-13 16:24:59 来自手机 | 显示全部楼层
直接除以0.01
 楼主| 发表于 2018-6-13 16:26:32 来自手机 | 显示全部楼层
不知道怎么计算得0.5
 楼主| 发表于 2018-6-13 16:42:33 来自手机 | 显示全部楼层
知道是这样算
发表于 2018-6-13 16:53:26 | 显示全部楼层

知道这样算还能算不出正确结果?
发表于 2018-6-13 17:09:02 | 显示全部楼层
jingbo007 发表于 2018-6-13 16:26
不知道怎么计算得0.5

10mV点的绝对误差为 +/-(读数(0.01V)*0.005%+满量程(1V)*0.005%),等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效数字为+/-0.5%
发表于 2018-6-13 17:18:09 | 显示全部楼层
10mV点的绝对误差为 +/-(读数(0.01V)*0.005%+满量程(1V)*0.005%),等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效数字为+/-0.5%
发表于 2018-6-14 09:45:54 | 显示全部楼层
用V的话可能会把脑袋搞混,那就直接单位统一为mV把数字简单化,然后带入楼上那些专家说的公式就可以了啊,找到适合自己的算法嘛不一定要用别人的思维
发表于 2018-6-14 09:59:02 | 显示全部楼层
轮廓 发表于 2018-6-14 09:45
用V的话可能会把脑袋搞混,那就直接单位统一为mV把数字简单化,然后带入楼上那些专家说的公式就可以了啊, ...

我实际算的时候也没有按公式一步步算,我是写1.00000,然后在下面一行对应最后一个0的位置写一个5,再在下一行与1.00000对齐写0.0100005,这样上面那个5就对到0.0100005的倒数第三位。0.5%结果就出来了
发表于 2018-6-14 10:40:56 | 显示全部楼层
刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算,我是写1.00000,然后在下面一行对应最后一个0的位置写一个5,再在 ...

你这样也是对的,只是说每个人的算法也许不一样,找一个适合自己的就行。
 楼主| 发表于 2018-6-14 16:07:24 | 显示全部楼层
刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算,我是写1.00000,然后在下面一行对应最后一个0的位置写一个5,再在 ...

我算的是0.05%但答案是0.5%
 楼主| 发表于 2018-6-14 16:09:20 | 显示全部楼层
都要保留一位有效数字吗?
发表于 2018-6-14 16:28:16 | 显示全部楼层
jingbo007 发表于 2018-6-14 16:09
都要保留一位有效数字吗?

保留多少位要视具体情况而定,本题给出的条件是5位半,最小量程满量程1V,则测量10mV时只能分辨到0.01mV,计算相对误差也就只能分辨到0.1%
发表于 2018-6-14 16:30:11 | 显示全部楼层
jingbo007 发表于 2018-6-14 16:07
我算的是0.05%但答案是0.5%

你能算出0.05%来说明你还是算错了
 楼主| 发表于 2018-6-15 21:06:20 | 显示全部楼层
刘耀煌 发表于 2018-6-14 16:30
你能算出0.05%来说明你还是算错了

怎么算啊,朋友
 楼主| 发表于 2018-6-15 21:08:08 | 显示全部楼层
刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算,我是写1.00000,然后在下面一行对应最后一个0的位置写一个5,再在 ...

5位半的位置吗?
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|计量论坛 ( 闽ICP备06005787号-1 © 2005-2015 计量论坛——304所 )
电话:0592-5613810 QQ:473647 微信号:gfjlbbs 微信公众:gfjlorg 闽公网安备 35020602000072号

GMT+8, 2018-9-20 11:03 , Processed in 0.589196 second(s), 23 queries .

Powered by Discuz! X3.2

© 2001-2016 Comsenz Inc.

快速回复 返回顶部 返回列表