テクノロジ系 / 基礎理論
倍精度
倍精度は、浮動小数点数を多くのビット数で表し、高い精度を得る形式です。
もう少し詳しく
浮動小数点数を、単精度の倍程度のビット数(一般に64ビット)で表す形式です。表せる精度や範囲が広く、より正確な計算ができます。一方、メモリを多く使い処理も重くなります。少ないビット数の単精度と対比され、精度を重視する場合に使われます。
試験での見方
例:浮動小数点数を64ビット程度で表し高精度にするのが倍精度です。
テクノロジ系 / 基礎理論
倍精度は、浮動小数点数を多くのビット数で表し、高い精度を得る形式です。
浮動小数点数を、単精度の倍程度のビット数(一般に64ビット)で表す形式です。表せる精度や範囲が広く、より正確な計算ができます。一方、メモリを多く使い処理も重くなります。少ないビット数の単精度と対比され、精度を重視する場合に使われます。
例:浮動小数点数を64ビット程度で表し高精度にするのが倍精度です。
多いビット数で高精度な点が核心です。単精度との違い(精度・範囲とメモリ・速度のトレードオフ)が頻出です。