LET'S TRY
問題文
浮動小数点形式で表現された数値の演算において,丸め誤差の説明はどれか。
fe-siken.com
IPAの公開問題について ↗
まずは自分で考えて、理由を確かめよう。
浮動小数点形式で表現された数値の演算において,丸め誤差の説明はどれか。
fe-siken.com
IPAの公開問題について ↗
自分で考えてから、解説を開いてみてね。
正解は イ です。
丸め誤差とは,1/3を3桁で表すと0.333となるように,有限桁表現のために生じる端数処理による誤差のことである。アはオーバーフロー,ウは情報落ち,エは桁落ち。
学習ノートを読み込んでいます…