符号付き/無しの整数(char,short,int,long等)の範囲の説明。 数値の範囲が問題となるプログラムの例として、以下の事例を紹介
/* 16bitコンピュータでのトラブル事例 */ /* int=16bitでは、座標間距離が200を越えるとオーバーフローの可能性 */ int distance( int x0 , int y0 , int x1 , int y1 ) { int r2 = (x0 - x1) * (x0 - x1) + (y0 - y1) * (y0 - y1) ; return sqrt( r2 ) ; } /* 2037年問題(時刻を1970年からの経過秒数で扱い 2037年に32bit溢れ) */ /* の説明のあと、2004年の銀行系トラブルの事例の説明。*/ int midtime( int time0 , int time1 ) { return (time0 + time1) / 2 ; /*int=32bitでは2004年以降トラブル発生*/ }
N 進数の説明により、基数変換方法と10進,2進,8進,16進の扱いを説明。 小数を含む基数変換の話しの途中で、時間切れ。