Department of Electronics and Information Engineering
ホーム » スタッフ » 斉藤徹 » 数値の扱い
今日は、数値の扱いの説明として、unsigned/signed,char/short/int/longの 数値のとりうる範囲について説明。2進桁数計算での D=B log 2の説明を行う。 数値の範囲の与える問題例として、16bit intの座標間距離で桁あふれの 起こる例と、2038年問題を紹介。2004年問題もタイムリーなので紹介。
すこし時間が余ったので、浮動小数点の扱いの入り口も説明するが、 中途半端。
学級日誌を見ると、雑談系の2038年問題の方に興味が高かったみたい。