日別アーカイブ: 2013年5月7日

浮動小数点とN進数

前回の授業で話せなかった浮動小数点の話の後、N進数について説明し演習などを行う。浮動小数点の扱い浮動小数点で扱える数値の範囲についても解説。科学技術計算などで小数点以下のデータを扱う場合、float(単精度実数) […]