読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 数の表し方

1.3 小数と誤差

2進数の小数は、小数点の右側のけたが、1/2、1/4、1/8…の重みを持ちます。

2進数計算10進数
0.1011/2+0+1/80.625
0.010+1/40.25

10進数の0.1は、2進数では 0.000110011001100… と、同じ並びが限りなく続きます。コンピューターは限られたけた数で数を保存するため、0.1を正確には表せず、わずかな誤差が出ます。

誤差の種類起きる場面
丸め誤差けた数に収めるために、端数を切り捨てたり四捨五入したりする
情報落ち大きな数に、とても小さな数を足すと、小さな数が反映されない
桁落ち値の近い数どうしを引くと、意味のあるけた数が減る

金額のように誤差が許されない計算では、小数を使わずに、円や銭を整数で扱うなどの工夫をします。

4 / 30