テクノロジ系 / 基礎理論
オーバーフロー(あふれ)
オーバーフローは、計算結果が表せる最大の範囲を超えて、あふれてしまう状態です。
もう少し詳しく
計算の結果が、用意したビット数で表せる最大値を超えてしまい、正しく表せなくなる状態です。あふれた分が失われ、誤った値になります。逆に、表せる最小(0に近い値)を下回るのがアンダーフローです。数値計算で注意すべき、桁あふれによる代表的な誤りです。
試験での見方
例:計算結果が表せる最大値を超え、正しく表せなくなるのがオーバーフローです。
テクノロジ系 / 基礎理論
オーバーフローは、計算結果が表せる最大の範囲を超えて、あふれてしまう状態です。
計算の結果が、用意したビット数で表せる最大値を超えてしまい、正しく表せなくなる状態です。あふれた分が失われ、誤った値になります。逆に、表せる最小(0に近い値)を下回るのがアンダーフローです。数値計算で注意すべき、桁あふれによる代表的な誤りです。
例:計算結果が表せる最大値を超え、正しく表せなくなるのがオーバーフローです。
表せる最大範囲を超える点が核心です。下回るアンダーフローとの対比が頻出です。