ホーム » 「誤差」タグがついた投稿
タグアーカイブ: 誤差
実数の取り扱いと誤差
実数型(float / double) 実数型は、単精度実数(float型)と、倍精度実数(double型)があり、それぞれ32bit,64bitでデータを扱う。 指数表現は、大きい値や小さい値を表現する場合に使われ、物 […]
D/A・A/D変換回路と誤差
小型コンピュータを使った制御では、外部回路に指定した電圧を出力(D/A変換)したり、外部の電圧を入力(A/D変換)したりすることが多い。以下にその為の回路と動作について説明する。 D/A変換回路 ラダー抵抗回路によるD/ […]