テクノロジ系 / 基礎理論
アンダーフロー
アンダーフローは、計算結果が小さすぎて、表せる範囲を下回ってしまう状態です。
もう少し詳しく
浮動小数点数の計算結果が、0に近すぎて表せる最小の値を下回り、正しく表せなくなる状態です。結果が0などに丸められ、誤差を生みます。逆に、表せる最大を超えてあふれるのがオーバーフローです。数値計算で注意すべき、範囲の下限に関する誤りです。
試験での見方
例:計算結果が小さすぎて表せる範囲を下回るのがアンダーフローです。
テクノロジ系 / 基礎理論
アンダーフローは、計算結果が小さすぎて、表せる範囲を下回ってしまう状態です。
浮動小数点数の計算結果が、0に近すぎて表せる最小の値を下回り、正しく表せなくなる状態です。結果が0などに丸められ、誤差を生みます。逆に、表せる最大を超えてあふれるのがオーバーフローです。数値計算で注意すべき、範囲の下限に関する誤りです。
例:計算結果が小さすぎて表せる範囲を下回るのがアンダーフローです。
表せる最小範囲を下回る点が核心です。超えてあふれるオーバーフローとの対比が頻出です。