タグアーカイブ: 有効数字

実数の取り扱いと誤差

実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]

実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]