似水流年2 发表于 2018-5-14 15:20:15

怎样算最大允许误差

             3个字什么意思？怎样算最大允许误差

刘耀煌 发表于 2018-5-14 15:49:38

如果测量10uA，显示值10.00或者9.98uA，则1个字就是0.01uA，最大允许误差则是+/-0.53uA

mxs623 发表于 2018-5-14 16:49:24

楼上正解，百分之五的误差加上3个字

似水流年2 发表于 2018-5-16 12:36:20

谢谢各位老师的指导

lijun123456 发表于 2018-9-9 08:47:47

刘耀煌 发表于 2018-5-14 15:49
如果测量10uA，显示值10.00或者9.98uA，则1个字就是0.01uA，最大允许误差则是+/-0.53uA ...

有没有可能显示0.1uA,那三个字节如何计算，误差就是±0.5um吗？又或者出现0.001,误差又是多少？望高手帮忙解惑，谢谢。

刘耀煌 发表于 2018-9-10 09:17:14

lijun123456 发表于 2018-9-9 08:47
有没有可能显示0.1uA,那三个字节如何计算，误差就是±0.5um吗？又或者出现0.001,误差又是多少？望高手帮 ...

显示到0.1uA，三个字就是0.3uA，MPEV是0.8uA了。显示0.001uA，三个字是0.003uA，按公式计算的MPEV是0.503uA，实际不会这样做。

lijun123456 发表于 2018-9-10 10:56:19

刘耀煌 发表于 2018-9-10 09:17
显示到0.1uA，三个字就是0.3uA，MPEV是0.8uA了。显示0.001uA，三个字是0.003uA，按公式计算的MPEV是0.503 ...

大概明白对您的意思了，就是在最后一位加3吧。
页: [1]
查看完整版本: 怎样算最大允许误差