[ ホーム ] [ PC技術/システム技術 ] [ VB.NETプログラミング ] [ なるほどナレッジ ] [ インフォメーション ]

上へ
New
加減算
レガシ乗除算
FFT乗除算

●機能

　UltraLongのNewメソッドで正しく値が正しく生成されたかどうかを自動的に試験する。

●外観

図は、整数試験結果

●メニュー

○整数

　.NETのデータ型の一つ一つを基準にし、それを包含する型で、同じ整数を1から最大値まで生成し、比較する。二重丸が基準で、○が包含する型で同じ値が正しく生成されたことを示す。

○UltraLong

• 32桁から100万桁までを、StringとStrngBuilderで生成し、比較する。

• 次に、仮数部を、123456789123456789 とし、指数部を、0 から±32768まで変化させ、StringとStringBuilder、New( M, E)(下図では、M.Pとなっている) にて生成し確認する。