2009年1月29日 (木) 02:15 における Worker による編集

Worker — Thu, 29 Jan 2009 02:15:51 GMT

←前の版		2009年1月29日 (木) 02:15の版
10 行		10 行
	<br>		<br>

-	[[Category:組み込み技術全般]] [[Category:FPGA]]	+	[[Category:組み込み技術全般\|マルメショリ]] [[Category:FPGA\|マルメショリ]]

Worker: 新しいページ: '丸め処理（まるめしょり）【Rounding】　ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．け...'

Worker — Thu, 29 Jan 2009 01:53:06 GMT

新しいページ: '丸め処理（まるめしょり）【Rounding】　ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．け...'

新規ページ

丸め処理（まるめしょり）【Rounding】

　ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．けた数が多いときに丸め処理が行われます．浮動小数点数演算の標準規格であるIEEE 754では4種類の丸めモードが定義されています．すなわち，1）最も近い偶数値に丸める，2）ゼロに近いほうに丸める，3）正の無限大に近いほうに丸める，4）負の無限大に近いほうに丸める，の4種類です．
　2進数の浮動小数点演算では，1）の「最も近い偶数値に丸める」が基本形です．これは，0は切り捨てて，1は切り上げるが，端数がちょうど1であれば，結果が偶数になるように切り上げと切り捨てを選択する，という方法です．例えば0101.11は0110になりますが，0010.10は0010になります．また，同じ数値を2回以上丸めることは禁止されています．これは，0101.11をいったん0101.0にしてから0101にするのではなく，直接0110にする，ということです．通常丸め処理は誤差が生じる処理ですが，「最も近い偶数値に丸める」方法が誤差が少ないとされています．
<br>
<br>
【出典】（株）アルティマ技術統括部一同，下馬場朋禄，山際伸一，横溝憲治；システム開発者のためのFPGA用語集，Design Wave Magazine 2008年12月号別冊付録，CQ出版社，2008年12月．

<br>
<br>

[[Category:組み込み技術全般]] [[Category:FPGA]]

丸め処理 - 変更履歴

2009年1月29日 (木) 02:15 における Worker による編集

Worker: 新しいページ: '丸め処理（まるめしょり） 【Rounding】 ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．け...'

Worker: 新しいページ: '丸め処理（まるめしょり）【Rounding】　ある数値を，一定の範囲の数値に置き換えることをいいます．端数処理とも呼びます．け...'