テクノロジ系 / 基礎理論
丸め誤差
丸め誤差は、数を表せる桁数に収めるため四捨五入などをすることで生じる誤差です。
もう少し詳しく
コンピュータは限られた桁数でしか数を表せないため、表しきれない部分を四捨五入や切り捨てで丸めます。このとき生じる、真の値とのわずかなずれが丸め誤差です。計算を重ねると誤差が蓄積することもあります。コンピュータの数値計算で生じる代表的な誤差です。
試験での見方
例:表せる桁に収めるため数を丸めることで生じるずれが丸め誤差です。
テクノロジ系 / 基礎理論
丸め誤差は、数を表せる桁数に収めるため四捨五入などをすることで生じる誤差です。
コンピュータは限られた桁数でしか数を表せないため、表しきれない部分を四捨五入や切り捨てで丸めます。このとき生じる、真の値とのわずかなずれが丸め誤差です。計算を重ねると誤差が蓄積することもあります。コンピュータの数値計算で生じる代表的な誤差です。
例:表せる桁に収めるため数を丸めることで生じるずれが丸め誤差です。
桁数制限による丸めで生じる誤差である点が核心です。他の誤差(桁落ち・情報落ち等)との区別が頻出です。