求一道题解答

计算过程，朋友们

D,先计算10mV量程点最大允许误差，再除以10mV， +/-（0.005%*0.010+0.005%*1）/0.010*100%=+/-0.5%

直接除以0.01

不知道怎么计算得0.5

知道是这样算

jingbo007 发表于 2018-6-13 16:42
知道是这样算

知道这样算还能算不出正确结果？

jingbo007 发表于 2018-6-13 16:26
不知道怎么计算得0.5

10mV点的绝对误差为 +/-(读数（0.01V）*0.005%+满量程（1V）*0.005%)，等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效数字为+/-0.5%

10mV点的绝对误差为 +/-(读数（0.01V）*0.005%+满量程（1V）*0.005%)，等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效数字为+/-0.5%

用V的话可能会把脑袋搞混，那就直接单位统一为mV把数字简单化，然后带入楼上那些专家说的公式就可以了啊，找到适合自己的算法嘛不一定要用别人的思维

轮廓 发表于 2018-6-14 09:45
用V的话可能会把脑袋搞混，那就直接单位统一为mV把数字简单化，然后带入楼上那些专家说的公式就可以了啊， ...

我实际算的时候也没有按公式一步步算，我是写1.00000，然后在下面一行对应最后一个0的位置写一个5，再在下一行与1.00000对齐写0.0100005，这样上面那个5就对到0.0100005的倒数第三位。0.5%结果就出来了

刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算，我是写1.00000，然后在下面一行对应最后一个0的位置写一个5，再在 ...

你这样也是对的，只是说每个人的算法也许不一样，找一个适合自己的就行。

刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算，我是写1.00000，然后在下面一行对应最后一个0的位置写一个5，再在 ...

我算的是0.05%但答案是0.5%

都要保留一位有效数字吗？

jingbo007 发表于 2018-6-14 16:09
都要保留一位有效数字吗？

保留多少位要视具体情况而定，本题给出的条件是5位半，最小量程满量程1V，则测量１０mＶ时只能分辨到0.01mV，计算相对误差也就只能分辨到0.1%

jingbo007 发表于 2018-6-14 16:07
我算的是0.05%但答案是0.5%

你能算出0.05%来说明你还是算错了

刘耀煌 发表于 2018-6-14 16:30
你能算出0.05%来说明你还是算错了

怎么算啊，朋友

刘耀煌 发表于 2018-6-14 09:59
我实际算的时候也没有按公式一步步算，我是写1.00000，然后在下面一行对应最后一个0的位置写一个5，再在 ...

5位半的位置吗？