2005年秋 科目A
数値表現の過去問

演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。

数表現のけた数に限度があるので、最下位けたより小さい部分について四捨五入や切上げ、切捨てを行うことによって生じる誤差である。

乗除算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。

絶対値がほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差である。