本帖最后由 thearchyhigh 于 2015-10-17 11:22 编辑
对,没注意史的计算是除的误差的平方和,以为还是标准差,这样是不会大于1,但不同真值,史的相关系数结果肯定会不一样,而且会差别很大,这样的方法有可行性吗?。可以计算来说明史,我就算一下大家看看,附件中有EXCEL的。可以得出在真值取数列的平均值时,结果的绝对值最小,接近但不同于(一)中的计算结果【因为(一)是除的4,(二)是除的5】;而在真值偏离数列的平均值越多时,结果的绝对值越大,接近1。所以该计算方法不具有一般性,不可用。
原例
:
| 电压 | 5.007 | 4.994 | 5.005 | 4.99 | 4.999 | | 真值 | 4.950 | 4.950 | 4.950 | 4.950 | 4.950 | | 误差 | 0.057 | 0.044 | 0.055 | 0.040 | 0.049 | | 误差平方 | 0.003249 | 0.001936 | 0.003025 | 0.0016 | 0.002401 | | σ (V) | 0.049419 | | | | | | 电流 | 19.663 | 19.639 | 19.64 | 19.685 | 19.675 | | 真值 | 19.400 | 19.400 | 19.400 | 19.400 | 19.400 | | 误差 | 0.263 | 0.239 | 0.24 | 0.285 | 0.275 | | 误差平方 | 0.0692 | 0.0571 | 0.0576 | 0.0812 | 0.0756 | | σ (I) | 0.261036 | | | | | | | | | | | | 同序号相乘 | 0.0150 | 0.0105 | 0.0132 | 0.0114 | 0.0135 | | 求和除5 | 0.0127 | | | | | | 史的相关系数 | 0.984 | | | | | 我们随便改下真值5和19.6:| 电压 | 5.007 | 4.994 | 5.005 | 4.99 | 4.999 | | 真值 | 5.000 | 5.000 | 5.000 | 5.000 | 5.000 | | 误差 | 0.007 | -0.006 | 0.005 | -0.010 | -0.001 | | 误差平方 | 0.000049 | 0.000036 | 0.000025 | 0.0001 | 0.000001 | | σ (V) | 0.006496 | | | | | | 电流 | 19.663 | 19.639 | 19.64 | 19.685 | 19.675 | | 真值 | 19.600 | 19.400 | 19.400 | 19.400 | 19.400 | | 误差 | 0.063 | 0.239 | 0.24 | 0.285 | 0.275 | | 误差平方 | 0.0040 | 0.0571 | 0.0576 | 0.0812 | 0.0756 | | σ (I) | 0.234734 | | | | | | | | | | | | 同序号相乘 | 0.0004 | -0.0014 | 0.0012 | -0.0029 | -0.0003 | | 求和除5 | -0.0006 | | | | | | 史的相关系数 | -0.393 | | | | | 4.99和19.62
| 电压 | 5.007 | 4.994 | 5.005 | 4.99 | 4.999 | | 真值 | 4.990 | 4.990 | 4.990 | 4.990 | 4.990 | | 误差 | 0.017 | 0.004 | 0.015 | 0.000 | 0.009 | | 误差平方 | 0.000289 | 0.000016 | 0.000225 | 0 | 0.000081 | | σ (V) | 0.011054 | | | | | | 电流 | 19.663 | 19.639 | 19.64 | 19.685 | 19.675 | | 真值 | 19.620 | 19.400 | 19.400 | 19.400 | 19.400 | | 误差 | 0.043 | 0.239 | 0.24 | 0.285 | 0.275 | | 误差平方 | 0.0018 | 0.0571 | 0.0576 | 0.0812 | 0.0756 | | σ (I) | 0.233795 | | | | | | | | | | | | 同序号相乘 | 0.0007 | 0.0010 | 0.0036 | 0.0000 | 0.0025 | | 求和除5 | 0.0016 | | | | | | 史的相关系数 | 0.619 | | | | |
|
-
-
1.xlsx
9.32 KB, 下载次数: 1, 下载积分: 金币 -1
EXCEL计算
|