KEEP LEARNING

情報処理の学習

丸め誤差とは?

f:id:food_blog:20200711003929p:plain

丸め誤差とは?

丸め誤差とは大きい桁数の小数を計算する際にある桁数以降の値を切り捨てることにより生じる誤差のことを言います。

 

参考資料まとめ

gihyo.jp

gihyo.jp

 

e-Words

e-words.jp