浮動小数点演算
出典: くみこみックス
版間での差分
| 1 行 | 1 行 | ||
浮動小数点演算（ふどうしょうすうてんえんざん） 【Floating-point Operation】 | 浮動小数点演算（ふどうしょうすうてんえんざん） 【Floating-point Operation】 | ||
| - | 浮動小数点演算は表現できる数値の範囲が固定小数点演算に比べて広いため，科学技術計算などで使用されています．ただし，丸めなどの誤差が発生します．浮動小数点には各種のフォーマットが存在しますが，IEEE 754規格が広く使われています．IEEE | + | 浮動小数点演算は表現できる数値の範囲が固定小数点演算に比べて広いため，科学技術計算などで使用されています．ただし，丸めなどの誤差が発生します．浮動小数点には各種のフォーマットが存在しますが，IEEE 754規格が広く使われています．IEEE 754には4種類の浮動小数点の形式が定義されています．一般に使用されるものは単精度（32ビット）と倍精度（64ビット）の2種類です（'''図'''）． |
<br> | <br> | ||
<br> | <br> | ||
2009年2月2日 (月) 02:03の版
浮動小数点演算（ふどうしょうすうてんえんざん） 【Floating-point Operation】
浮動小数点演算は表現できる数値の範囲が固定小数点演算に比べて広いため，科学技術計算などで使用されています．ただし，丸めなどの誤差が発生します．浮動小数点には各種のフォーマットが存在しますが，IEEE 754規格が広く使われています．IEEE 754には4種類の浮動小数点の形式が定義されています．一般に使用されるものは単精度（32ビット）と倍精度（64ビット）の2種類です（図）．
【出典】（株）アルティマ 技術統括部 一同，下馬場 朋禄，山際 伸一，横溝 憲治；システム開発者のためのFPGA用語集，Design Wave Magazine 2008年12月号 別冊付録，CQ出版社，2008年12月．
図 浮動小数点の形式
