1997-10-21から1日間の記事一覧
erfc 比較 Caltech code は x>3 で使い物にならない Numerical Recipes は誤差の分布は均一、 誤差自身は +/- 10^-7 程度 3D code for F&FT finite3.c を完成 finite.c, finite-ft.c を改良、 Cholesky decomp. にする 上半部分のみ計算する 今後やること FT…
erfc 比較 Caltech code は x>3 で使い物にならない Numerical Recipes は誤差の分布は均一、 誤差自身は +/- 10^-7 程度 3D code for F&FT finite3.c を完成 finite.c, finite-ft.c を改良、 Cholesky decomp. にする 上半部分のみ計算する 今後やること FT…