ホーム » スタッフ » 斉藤徹 » 数値の扱い

2004年4月
 123
45678910
11121314151617
18192021222324
252627282930  

最新の投稿(電子情報)

アーカイブ

カテゴリー

数値の扱い

今日は、数値の扱いの説明として、unsigned/signed,char/short/int/longの 数値のとりうる範囲について説明。2進桁数計算での D=B log 2の説明を行う。 数値の範囲の与える問題例として、16bit intの座標間距離で桁あふれの 起こる例と、2038年問題を紹介。2004年問題もタイムリーなので紹介。

すこし時間が余ったので、浮動小数点の扱いの入り口も説明するが、 中途半端。

学級日誌を見ると、雑談系の2038年問題の方に興味が高かったみたい。