テクノロジ系 / 基礎理論
倍精度浮動小数点数
倍精度浮動小数点数は、多くのビット数(一般に64ビット)で表す、高精度な浮動小数点数です。
もう少し詳しく
浮動小数点数を、単精度の倍程度のビット数で表す形式の数値です。表せる精度や範囲が広く、より正確な計算ができます。一方、メモリを多く使い処理も重くなります。少ないビット数の単精度浮動小数点数と対比され、精度を重視する場面で使われます。
試験での見方
例:64ビット程度で表す高精度な浮動小数点数が倍精度浮動小数点数です。
テクノロジ系 / 基礎理論
倍精度浮動小数点数は、多くのビット数(一般に64ビット)で表す、高精度な浮動小数点数です。
浮動小数点数を、単精度の倍程度のビット数で表す形式の数値です。表せる精度や範囲が広く、より正確な計算ができます。一方、メモリを多く使い処理も重くなります。少ないビット数の単精度浮動小数点数と対比され、精度を重視する場面で使われます。
例:64ビット程度で表す高精度な浮動小数点数が倍精度浮動小数点数です。
多いビット数で高精度な点が核心です。単精度との精度・範囲とメモリ・速度のトレードオフが頻出です。