丸め処理

出典: くみこみックス

2009年1月29日 (木) 02:15; Worker (会話 | 投稿記録) による版
(差分) ←前の版 | 最新版を表示 (差分) | 次の版→ (差分)

丸め処理(まるめしょり) 【Rounding】

 ある数値を,一定の範囲の数値に置き換えることをいいます.端数処理とも呼びます.けた数が多いときに丸め処理が行われます.浮動小数点数演算の標準規格であるIEEE 754では4種類の丸めモードが定義されています.すなわち,1)最も近い偶数値に丸める,2)ゼロに近いほうに丸める,3)正の無限大に近いほうに丸める,4)負の無限大に近いほうに丸める,の4種類です.  2進数の浮動小数点演算では,1)の「最も近い偶数値に丸める」が基本形です.これは,0は切り捨てて,1は切り上げるが,端数がちょうど1であれば,結果が偶数になるように切り上げと切り捨てを選択する,という方法です.例えば0101.11は0110になりますが,0010.10は0010になります.また,同じ数値を2回以上丸めることは禁止されています.これは,0101.11をいったん0101.0にしてから0101にするのではなく,直接0110にする,ということです.通常丸め処理は誤差が生じる処理ですが,「最も近い偶数値に丸める」方法が誤差が少ないとされています.

【出典】(株)アルティマ 技術統括部 一同,下馬場 朋禄,山際 伸一,横溝 憲治;システム開発者のためのFPGA用語集,Design Wave Magazine 2008年12月号 別冊付録,CQ出版社,2008年12月.

表示