・ FV変換の大体の分解能は下表になります。

 

 

・ 1500 Hz の例で説明します。

 

周期計測のクロックは20 MHzです。入力周波数に対するカウント値は；

20000000 ÷（入力周波数）＝カウント値

1500Hzでは    20000000 ÷ 1500＝13333.33   

カウント値は整数なので分解能としては、13333 か 13334 のどちらかになります。このカウント値を周波数に逆算すると；

　

     20000000÷13333＝1500.0375
     20000000÷13334＝1499.925

この差は    1500．0375−1499.925＝0.1125 Hz

よって 1500 Hz付近ではおよそ0.12 Hzの分解能があると言えます。ここで注意することがあります。1500 Hｚの測定に 0.0375 Hzの誤差を生じてしまう点です。水晶発振器の精度を加味すると0.12 Hzプラスαの精度になります。

　

・ 偏差出力の場合

偏差出力の場合も分解能は同じですが１分解能当たりの出力電圧は大きく取れます。

　

・ 低周波数の精度

カウント値の逆数を16ビットのDA変換器で電圧に変換して出力しています。
カウント値が16ビットがフルになる周波数は 305.1 Hzです。
305.1 Hz以下の低周波数では16ビット以上になりますので、２進カウンターの下桁をカットして、上位16桁分で計算します。
よってこの場合の精度は；

   精度＝入力周波数÷2¹⁵ 

 

になります。

　

・ カタログ記載の精度

 電圧出力  0.1 ％  FS
 電流出力  0.7 ％  FS

精度は 20 kHzの時が最悪になりますので、この時の分解能＋アナログ回路精度を記載しています。

入力周波数 max50 kHz に改造可能です。この場合も分解能は同様な考えになります。