読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
2進数の小数は、小数点の右側のけたが、1/2、1/4、1/8…の重みを持ちます。
| 2進数 | 計算 | 10進数 |
|---|---|---|
0.101 | 1/2+0+1/8 | 0.625 |
0.01 | 0+1/4 | 0.25 |
10進数の0.1は、2進数では 0.000110011001100… と、同じ並びが限りなく続きます。コンピューターは限られたけた数で数を保存するため、0.1を正確には表せず、わずかな誤差が出ます。
| 誤差の種類 | 起きる場面 |
|---|---|
| 丸め誤差 | けた数に収めるために、端数を切り捨てたり四捨五入したりする |
| 情報落ち | 大きな数に、とても小さな数を足すと、小さな数が反映されない |
| 桁落ち | 値の近い数どうしを引くと、意味のあるけた数が減る |
金額のように誤差が許されない計算では、小数を使わずに、円や銭を整数で扱うなどの工夫をします。
4 / 30