浮動小数点演算

出典: くみこみックス

2009年2月21日 (土) 11:53; S hira (会話 | 投稿記録) による版
(差分) ←前の版 | 最新版を表示 (差分) | 次の版→ (差分)

浮動小数点演算(ふどうしょうすうてんえんざん) 【Floating-point Operation】

 浮動小数点演算は表現できる数値の範囲が固定小数点演算に比べて広いため,科学技術計算などで使用されています.ただし,丸めなどの誤差が発生します.浮動小数点には各種のフォーマットが存在しますが,IEEE 754規格が広く使われています.IEEE 754には4種類の浮動小数点の形式が定義されています.一般に使用されるものは単精度(32ビット)と倍精度(64ビット)の2種類です().


画像:fpga_f42.gif

図 浮動小数点の形式



【出典】(株)アルティマ 技術統括部 一同,下馬場 朋禄,山際 伸一,横溝 憲治;システム開発者のためのFPGA用語集,Design Wave Magazine 2008年12月号 別冊付録,CQ出版社,2008年12月.

関連項目

表示