得られた
を図12に示す。
境界条件
のわずかな相違により、
の分布が大きく変化している。
いずれも、測定による
の分布とは、
特にa few
以下の低カウント域で、
値、形状ともに大きく異なっており、
明らかに、このシグナル値域では、
を直接に
と
見做すことができなくなっていることが分かる。
また、式(14)により Linearity Residuals
を求め、「光量-シグナル値」の関係から得られた結果と比較した(図
13)。
せいぜいの境界条件値の相違により、
シグナル値が小さくなるにしたがって
の相違が増大し、
a few
以下では、相違が5-6%まで達する。
その中で、
とした場合の解は、
が
の範囲にお
さまっており、「光量-シグナル値」の関係から得た線形性の特性におよそ
一致している。
真のゲイン値分布、
および、Linearity Rresiduals
は、
境界条件
の値に非常に敏感であることが分かったが、
の高精度の決定は大変困難である。
これは測定量
と
と間に、常に不一致の可能性があるためである。
例えば、
真の
のシグナル値依存性に、
ADUあたり 1% のわずかな傾きが
あっただけで、
と
の相違は、19000 ADU付近で約 0.6%に達する。
すなわち、境界条件
を与えるさいにも、同程度の不定性が含まれることに
なる。
また、数値計算の際に与えた
の関数形も、単純な一次関数で
近似したものである。よって、ここで行ったような非線型微分方程式の解において、
わずかな近似の誤差が、解に大きな誤差を生む可能性がある。