第2種情報処理技術者試験 |
1997年度 = 平成9年度・春期 |
午前 |
問30 |
浮動小数点表示において、0以外の数値に対して仮数部の絶対値の最上位けた(基数2のときは1ビット、基数16のときは4ビット)が0以外になるようにけた合わせする操作を何というか。
ウ
浮動小数点表示において、0以外の数値に対して仮数部の絶対値の最上位けたが0以外になるようにけた合わせする操作が正規化です。小数部があらかじめ定められた範囲内に入るように指数部と小数部を調整して、精度の向上を行います。
たとえば、0.000123×105を0.123000×102とします。