ソースを表示

丸め処理（まるめしょり） 【Rounding】

　ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．けた数が多いときに丸め処理が行われます．浮動小数点数演算の標準規格であるIEEE 754では4種類の丸めモードが定義されています．すなわち，1）最も近い偶数値に丸める，2）ゼロに近いほうに丸める，3）正の無限大に近いほうに丸める，4）負の無限大に近いほうに丸める，の4種類です．
　2進数の浮動小数点演算では，1）の「最も近い偶数値に丸める」が基本形です．これは，0は切り捨てて，1は切り上げるが，端数がちょうど1であれば，結果が偶数になるように切り上げと切り捨てを選択する，という方法です．例えば0101.11は0110になりますが，0010.10は0010になります．また，同じ数値を2回以上丸めることは禁止されています．これは，0101.11をいったん0101.0にしてから0101にするのではなく，直接0110にする，ということです．通常丸め処理は誤差が生じる処理ですが，「最も近い偶数値に丸める」方法が誤差が少ないとされています．
<br>
<br>
【出典】（株）アルティマ 技術統括部 一同，下馬場 朋禄，山際 伸一，横溝 憲治；システム開発者のためのFPGA用語集，Design Wave Magazine 2008年12月号 別冊付録，CQ出版社，2008年12月．
<!-- 【著作権者】○○ ○○氏 -->
<br>
<br>

[[Category:組み込み技術全般|マルメショリ]] [[Category:FPGA|マルメショリ]]