西門子S7-300/400的模擬量輸入的分辨率用位來表示，如下圖所示：

如圖所示：當(dāng)分辨率是10位的時候，模擬量的數(shù)值是以32的倍數(shù)變化；當(dāng)分辨率是15位的時候，模擬量的數(shù)值是以1的倍數(shù)變化，其它的依次類推。

例如：一個4~20mA的壓力傳感器的量程是0-100kPa，當(dāng)選擇分辨率為10位的模塊時，每次變化數(shù)字量為：32*100/27648=0.1157，這時的誤差范圍就在0.1kPa以上了，想要達(dá)到0.1kPa的精度是不可能的；當(dāng)選擇分辨率為11位的模塊時，每次變化數(shù)字量為：16*100/27648=0.0579，這時的誤差范圍就在0.1kPa以下了，就可以達(dá)到0.1kPa的精度。

首先說明的是：精度≠分辨率

分辨率是整個量程分成N個等份，如上圖對應(yīng)各自的分辨率就是32767/256=128（即2的7次方）、32767/512=64（即2的6次方）、32767/1024=32（即2的5次方）等。

精度是測量值和實際值的偏差，模擬量轉(zhuǎn)換的精度除了取決于A/D轉(zhuǎn)換的分辨率，還受到轉(zhuǎn)換芯片的外圍電路的影響，在實際應(yīng)用中，輸入的模擬量信號會有波動、噪聲和干擾，內(nèi)部電路也會產(chǎn)生噪聲、漂移，這些都會對轉(zhuǎn)換的精度造成影響，這些因素造成的誤差要大于芯片A/D的轉(zhuǎn)換誤差，高精度必須要高分辨率，但高分辨率并不等于高精度。

有的模擬量輸入模塊的分辨率是可以在硬件組態(tài)中進(jìn)行設(shè)置的，比如6ES7 331-7KF02-0AB0，硬件描述中分辨率最高可達(dá)到14位，但是對于不同的積分時間或干擾頻率抑制值，其分辨率是不一樣的，對于本例的模塊具體對應(yīng)關(guān)系（每個模塊的詳細(xì)參數(shù)可以參考模塊的技術(shù)手冊）為：

由圖中數(shù)據(jù)可以看出：積分時間越長精度越高，干擾抑制頻率值越低精度越高。