ホーム » 「倍精度実数」タグがついた投稿
タグアーカイブ: 倍精度実数
実数の取り扱いと誤差
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]
実数の取り扱いと誤差
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]
実数の取り扱いと誤差
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]
実数型と取り扱いの注意
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 単精度型(float)では、符号1bit,指数部8bit […]
プログラムと数値型
コンピュータの中では、2進数で値を表現するが、組み込み系のような小さいコンピュータでは、たくさんの桁を必要とする情報を扱うことが苦手である。そこで、C言語で数値を扱う型と、その型で扱える数値の範囲や問題点を説明する。 補 […]