第2種情報処理技術者試験 |
2000年度 = 平成12年度・秋期 |
午前 |
問7 |
浮動小数点数の加減算を実行したとき、けた落ちが発生する演算はどれか。ここで、有効けたは、仮数部3けたに対して、演算は6けたで行われるものとする。
ア 0.123×102+0.124×10-2
| イ 0.234×105-0.221×102
|
ウ 0.556×106+0.552×104
| エ 0.556×107-0.552×107
|
エ
けた落ちとは、浮動小数点演算において、絶対値が近い数値の加減算で有効数字のけた数が減る現象のことであり、符号が等しいときは減算、符号が異なるときは加算を行うと発生します。
本問で該当する選択肢はエです。