ホーム ] PC技術/システム技術 ] VB.NETプログラミング ] なるほどナレッジ ] インフォメーション ]

上へ
個別機能
自動試験
演算時間測定
要素技術
演算時間予測
システム設定

機能解説

要素技術

最終更新日:2006/06/16 追加

ニュートン収束(逆数)

 ニュートン法とニュートン法による逆数に関する方式比較と実測

●演算精度

●階乗補助関数1

●階乗補助関数2

●sinhの収束

●tanhの収束

数学関数方式比較

 UltraPrecision の数学関数を開発するに際して実際に検討した種々の方法について実測して確認する。高速化の変遷が分かる。

Exp演算シミュレータ

 eX を求める各方式について実測すると、とてつもなく時間が掛かってしまうので、各種予測関数やツールを利用した専用ツールである。方式とパラメータを変えて100万桁までを短時間にシミューレーションできる。