第2種情報処理技術者試験 | 1999年度 = 平成11年度・秋期 | 午前 | 問10 |
演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。 | |
数表現のけた数に限度があることによって、最小けたより小さい部分について四捨五入や切上げ、切捨てを行うために生じる誤差である。 | |
絶対値のほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差である。 | |
浮動小数点数の加減算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。 |
解答 |
解説 |
演算結果がコンピュータの扱える最大値を超えることによって生じる誤差は、オーバフローです。 | |
数表現のけた数に限度があることによって、最小けたより小さい部分について四捨五入や切上げ、切捨てを行うために生じる誤差が、丸め誤差です。 | |
絶対値のほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差は、けた落ちです。 | |
浮動小数点数の加減算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差は、情報落ちです。 |