| 第２種情報処理技術者試験 |
1997年度 ＝ 平成9年度・秋期 |
午前 |
問6 |
ある関数の真の値は、12.00000である。いろいろなプログラムでこれを算出した結果、次のように異なった値が得られた。精度が最も高いのはどれか。
| ア 11.99900
| イ 11.99993
| ウ 12.00010
| エ 12.00075
|
イ
真の値との差が最も小さいものが最も精度が高いといえます。
ア … ｜12.00000 － 11.99900｜ = 0.00100
イ … ｜12.00000 － 11.99993｜ = 0.00007
ウ … ｜12.00000 － 12.00010｜ = 0.00010
エ … ｜12.00000 － 12.00075｜ = 0.00070
