ソースを表示
出典: くみこみックス
丸め処理
のソース
移動:
ナビゲーション
,
検索
以下に示された理由により ページの編集 を行うことができません:
この処理は
ログイン利用者
の権限を持った利用者のみが実行できます。
以下にソースを表示しています:
丸め処理(まるめしょり) 【Rounding】 ある数値を,一定の範囲の数値に置き換えることをいいます.端数処理とも呼びます.けた数が多いときに丸め処理が行われます.浮動小数点数演算の標準規格であるIEEE 754では4種類の丸めモードが定義されています.すなわち,1)最も近い偶数値に丸める,2)ゼロに近いほうに丸める,3)正の無限大に近いほうに丸める,4)負の無限大に近いほうに丸める,の4種類です. 2進数の浮動小数点演算では,1)の「最も近い偶数値に丸める」が基本形です.これは,0は切り捨てて,1は切り上げるが,端数がちょうど1であれば,結果が偶数になるように切り上げと切り捨てを選択する,という方法です.例えば0101.11は0110になりますが,0010.10は0010になります.また,同じ数値を2回以上丸めることは禁止されています.これは,0101.11をいったん0101.0にしてから0101にするのではなく,直接0110にする,ということです.通常丸め処理は誤差が生じる処理ですが,「最も近い偶数値に丸める」方法が誤差が少ないとされています. <br> <br> 【出典】(株)アルティマ 技術統括部 一同,下馬場 朋禄,山際 伸一,横溝 憲治;システム開発者のためのFPGA用語集,Design Wave Magazine 2008年12月号 別冊付録,CQ出版社,2008年12月. <!-- 【著作権者】○○ ○○氏 --> <br> <br> [[Category:組み込み技術全般]] [[Category:FPGA]]
丸め処理
に戻る。
表示
本文
ノート
ソースを表示
履歴
メニュー
メインページ
最近の出来事
最近更新したページ
検索
* ツールボックス
リンク元
リンク先の更新状況
アップロード
特別ページ