計測/分析装置は物理現象の変化を最終的には電圧の変化として測定するものが多い。それらの信号は自然界からのノイズを含んでおり、デジタル変換には特別な配慮が必要である。第一に、そのような計測システムの設計者は計測する信号の周波数および精度(分解能)を十分うまく推定しなければならない。
多くの計測システム設計で見られる設計上の誤りは、ユーザ要求である感度(S/N比)や最小検知感度などから AD コントローラの分解能を決定することである。例として感度がノイズレベルの絶対値で表現できる紫外分光検出器を取り上げる。装置仕様としてのノイズレベルを 10-7AU (0.1mAU), またレスポンス範囲を2.0AUと仮定する。単純な吸光度強度軸をノイズが 1 LSB の信号として観測できるためには 5x10-8のビット分解能が必要であり、24ビット符合なし整数の分解能 (16,777,216)に相当する。実際にノイズ成分を信号として読み取るにはこの5倍から10倍のビット分解能が必要となる。
上記の計算は、測定信号が直流の場合であるが実際にはノイズを含め変化のある信号を測定しなければならないため、Aparture error を考慮しなければならない。かりに測定対象の信号周波数が 44kHz である場合 24bit で AD が正しく計測できるための入力クロックはおよそ 0.43ps 以下の精度を保たなければならず、回路は極めて高価となる。
実際の信号測定系ではよりビット分解能の低い AD コンバータを高速に作動させ、積算を行うことによって比較的安価な回路で十分な強度軸の精度を得るよう設計している。例えば前述の紫外分光検出器の例では 1MHz の速度で 16bit AD コンバータを駆動し 1024回の積算を行うことで 25bit 程度の分解能を得ている。
Signal ${S}$ to noise $N$ ratio with respect to $n$ times signal averaging is
\[ \frac{S}{N} = \frac{n S}{\sqrt{n \sigma^2}} = \sqrt{n} \frac{S}{\sigma}\]
故に、1024回の積算では理想的条件で S/N は32倍改善する。なお、ここに掲げた例は紫外吸収スペクトルに基づく分光検出器であるので、実際に測定している信号は全透過光に対するサンプル透過光の比である。すなわち相当に強い信号(全透過光)からサンプルによってわずかに信号が減衰する量を見ている。検出デバイスが比較的飽和に近い信号をモニタしている状態がサンプル濃度ゼロの状況であるため、このような処理系では検知器自身の直線応答性に注意が必要である。
ちなみに、吸光度 (AU) と光の強度との関係は、
Absorbance is a quantitative measure expressed as a logarithmic ratio between the radiation falling upon a material and the radiation transmitted through a material.
\[ A_{\lambda} = - \log(\frac{I_1}{I_0}) \]
where $A_{\lambda}$ is the absorbance at a given wavelength of light, $I_1$ is the intensity of the light that has passed through the sample material, and $I_0$ is the intensity of the light before it passes through the sample material.