分辨率？精度？別搞混了！在測量術語中，儀器的分辨率是指儀器指示或顯示的最小增量。在不同測試環(huán)境中分辨率有不同的表達方式，例如在數(shù)據采集和示波器中，分辨率通常用比特數(shù)來表示，以便用戶直觀檢測到測試變化的程度。

而精度是測量結果與被測參數(shù)真實值之間誤差大小的度量。想象一下射擊靶，分辨率就是你能看清的靶心大小，而精度就是你槍法準不準。圖1這個簡單的射擊靶案例讓你一目了然！

圖1：低分辨率、高分辨率、低精度間的關系示意圖

垂直分辨率，怎么算？我們以橫河數(shù)字示波器DLM3000為例，8位A/D轉換器面對1V的輸入，它能分辨出的最小電壓是多少？答案是3.91mV。

圖2：作為0至1V輸入函數(shù)時8位模

數(shù)轉換器輸出示意圖

圖2顯示的就是垂直分辨率的計算方式。

當8bit A/D分辨率作用于1V輸入時，如圖

8位示波器–理論值：8比特，256級，32LSB/Div，其中(3×8Div)=256

8位示波器–真實值：7.6比特, 192級, 24LSB/Div, 其中(24×8Div)=192

因此，其最小垂直分辨率1V/256=3.91mV。

如果你想讓設備更“靈敏”，還可通過使用細刻度伏特/分頻的方式，使設備在確保有足夠空間的前提下支持大部分A/D轉換器。需要注意的是信號將在紅色區(qū)域發(fā)生消頂。

用戶還可通過不同的設置自行查看同一測試波形，這時通過簡單的計算，你就能發(fā)現(xiàn)，屏幕上的波形和分辨率之間有著怎樣的“秘密聯(lián)系”！

當我們將DLM3000設置為10.15DIV時，由256LSB/10.15DIV=25LSB/Div可知，在25LSB/Div時，8div×25LSB/Div=7.6比特并與波形保持在屏幕上。

若我們將橫河DLM3000設置為1V/Div、輸入波形為4Vpp，此時其保證規(guī)格為25LSB/Div。

Vertical Resolution

=V/Div/LSB/DIV

=1/25

=40mV. 

ADC Count

=Log2(4Vpp/8Vfull-scale)*25 LSB/DIV*8 DIV

=Log2(4/8)*(200)

=Log2(100)

=6.6bits   

在該情況下，每個比特的分辨率減半。

若我們將橫河DLM3000設置為0.5V/Div、輸入波形為4Vpp時，此時其保證規(guī)格為 25LSB/Div。

Vertical Resolution

= V/Div/LSB/DIV

= 0.5/25

= 20mV.

ADC Count

= Log2(4Vpp/4Vfull-scale)*25 LSB/DIV*8 DIV

= Log2(1)*(200)

= Log2(200)

= 7.6 bits

在該情況下，由于每個比特的分辨率減半（提高），因此屏幕所顯示的波形為接近或達到滿刻度狀態(tài)。

如何讓真實分辨率更上一層樓？

我們還有高精度模塊701251來助力！這個模塊A/D轉換精度高達16-bit，但是，別被理論值迷惑了，實測才是硬道理！圖4告訴你，怎么調整才能讓設備發(fā)揮出最大的“潛力”！

例如橫河DL950示波記錄儀的測量范圍為0V±10div（絕對寬度（跨度）的20div）；屏幕的顯示范圍為±5div（跨度的10div）。用戶可通過“移動垂直位置”、“設置偏置電壓”、“放大/縮小垂直軸”三大功能移動顯示波形，甚至查看不在顯示范圍內的波形情況，并通過放大/縮小操作獲取波形詳情。

圖4：橫河示波記錄儀的垂直分辨率情況示意圖

如圖所示，其中的實線部分是LCD可視部分，實線加虛線部分是整個波形的可測量范圍（即垂直跨度20div）。

如果按2400LSB/div x 20DIV來算，也就是LOG2（48000）=15.56bit（低于理論AD值），那么這是否意味著我們在進行任何有關幅值信號的測試時其精度都能達到計算的A/D精度呢？答案顯然是錯誤的。畢竟只有當數(shù)字儀器在進行滿量程測試時才能獲取最高的AD精度，對橫河DL950來說也是如此。

例如：當我們輸入一個20Vp-p的正弦波，將電壓軸刻度調整為5V/div、波形可視范圍設置為50V。相對于20Vp-p正弦波而言，經過這一操作的波形將占據半個顯示屏左右的位置，是大部分工程師們的理想測試狀態(tài)。那么我們就按公式實際計算出該狀態(tài)下設備可達到的實際垂直分辨率：

16bit模塊2400LSB/DIV: 

垂直分辨率=V/DIV/LSB/DIV=0.002V

ADC Bit count=Log2[(20Vp-p/100Vpp)x2400LSB/Divx20div]=log2[0.10x48000LSB]=12.2bit<15.5bit

由計算可知在此狀態(tài)下實際所測的AD分辨率遠遠小于之前所得出的15.5bit分辨率。因此雖然這個波形在屏幕上看起來較為理想，但卻遠遠達不到理論層面的最高分辨率。

那么我們究竟應該如何設置才能使設備達到最大理論的垂直分辨率呢？我們不妨試著將設備的垂直軸調整到 1V/Div ,那么LCD的顯示范圍即為10V、可測量范圍為20V，此時屏幕只能顯示約一半幅值的波形，20Vp-p的正弦波看起來被上下切斷，這時實際所測的垂直分辨率又是多少呢？

16bit模塊 2400LSB/DIV: 

垂直分辨率=V/DIV/LSB/DIV=0.000417V

ADC Bit count=Log2[(20Vp-p/20Vpp)x2400LSB/Divx20div]=log2[48000LSB]=15.5bit

如此一來設備即可達到最大理論的垂直分辨率，也符合我們一貫以來所理解的滿量程測試要求。但此時可顯示的波形卻被上下腰斬，用戶也將面臨難以進行數(shù)據測量分析的窘境，試問在這種情況下，工程師們又該如何破局呢？