ホーム » スタッフ » 斉藤徹 » 整数型の範囲とN進数

2005年5月
« 4月   6月 »
1234567
891011121314
15161718192021
22232425262728
293031  

最近の投稿(電子情報)

アーカイブ

カテゴリー

整数型の範囲とN進数

符号付き/無しの整数(char,short,int,long等)の範囲の説明。 数値の範囲が問題となるプログラムの例として、以下の事例を紹介

/* 16bitコンピュータでのトラブル事例 */
/*  int=16bitでは、座標間距離が200を越えるとオーバーフローの可能性 */
int distance( int x0 , int y0 , int x1 , int y1 )
{
int r2 = (x0 - x1) * (x0 - x1) + (y0 - y1) * (y0 - y1) ;
return sqrt( r2 ) ;
}
/* 2037年問題(時刻を1970年からの経過秒数で扱い 2037年に32bit溢れ) */
/* の説明のあと、2004年の銀行系トラブルの事例の説明。*/
int midtime( int time0 , int time1 )
{
return (time0 + time1) / 2 ; /*int=32bitでは2004年以降トラブル発生*/
}

N 進数の説明により、基数変換方法と10進,2進,8進,16進の扱いを説明。 小数を含む基数変換の話しの途中で、時間切れ。