コンピュータで発生する誤差について


実際に体験してみると

表計算ソフトExcelを使って、1.2-1.1の計算をしてみました

通常の設定で計算をしました	小数点第１６位で 誤差が発生する

表計算ソフト（Excel）では、小数点以下１５行（小数点第１5位）の精度の範囲以内では 正確に計算できるが、小数点以下１６行（小数点第１６位）以上になると誤差を生じる。 誤差は0.1-0.0999999999999999＝0.0000000000000001となります。 　　　　　　　　　　　　　　　　　　　　　　　ま　と　め 　コンピュータが扱える数値のけた数には制限があるので、そのけた数を超える数値が 発生した場合に「まるめ」が行われることになり誤差が発生します。

　



戻る