日別アーカイブ: 2016年11月15日

倍精度で精度が足りない…

他の先生の卒研の学生から、「C言語のプログラムを書いているけど、精度が足りないのでどうしたらいいか？」という質問をうける。 double 型で計算をしているようなので、計算アルゴリズムの問題かもしれない。積分計算 […]