[ ホーム ] [ PC技術/システム技術 ] [ VB.NETプログラミング ] [ なるほどナレッジ ] [ インフォメーション ]

上へ
New
加減算
レガシ乗除算
FFT乗除算

●機能

　FFT乗算と、逆数除算を試験する。

●外観

図は、UL定数　乗除算結果

●メニュー

○UL定数　乗除算

　・定数　乗算

　指定された桁数/2 の定数、99999999・・・999 を自乗し、結果を確認する。

　・定数　除算

　指定された桁数の定数、88888888・・・8888 と、55555555・・・5555 にて、除算し、結果を指定精度+1 にて四捨五入し、1.6 になるかどうかを確認する。

○UL乱数　乗算⇔除算

　指定された桁数/2 を持った乱数A、B を生成し、A * B / B = A と、A / B * B = A を確認する。