| 第２種情報処理技術者試験 |
1998年度 ＝ 平成10年度・春期 |
午前 |
問6 |
2進の浮動小数点表示で誤差を含まずに表現できる10進数はどれか。
エ
2進数の各桁は、2のべき乗の重みをもちます。したがって、2進数の0.1, 0.01, 0.001, 0.0001, … を10進数で表すと次のようになります。
| 2進数
| 0.1
| 0.01
| 0.001
| 0.0001
| 0.00001
|
| 10進数
| 0.5
| 0.25
| 0.125
| 0.0625
| 0.03125
|
このことから、10進数の0.5, 0.25, … そのもの、あるいはそれらの和で表せないものは、2進数で有限桁で表せないことが分かります。
10進数の0.5は、2進数の0.1ですから、計算するまでもなく、正解はエであることが分かります。
