実数の取り扱いと誤差
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]
Department of Electronics and Information Engineering
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]