当前位置:首页>维修大全>综合>

什么是精度

什么是精度

更新时间:2023-09-12 12:58:54

什么是精度

简而言之,采样精度是采样所能达到的最小精度。10位通常记为2,10=1024,精度是每单位的1/1024。如果电压取样,准确度为1/1024v =0.0009765925V约0.98mV。

转换数字精度,数字10说最小精度是10 - 2参考电压之一,也是1024点之一,这里如果参考电压是5v,那么最小单位的(1024)5个成员现在。0是0V, 1023是5乘以(1023/1024),线性变化。

更多栏目