飽和演算
出典: くみこみックス
版間での差分
(新しいページ: '飽和演算（ほうわえんざん） 整数演算で，結果が表現可能な最大の数値よりも大きい場合は表現可能な最大の数値に設定され，...') |
|||
| 9 行 | 9 行 | ||
<br> | <br> | ||
| - | [[Category:組み込み技術全般]] [[Category:ARM用語]] | + | [[Category:組み込み技術全般|ホウワエンサン]] [[Category:ARM用語|ホウワエンサン]] |
2009年1月30日 (金) 01:57の版
飽和演算（ほうわえんざん）
整数演算で，結果が表現可能な最大の数値よりも大きい場合は表現可能な最大の数値に設定され，結果が表現可能な最小の数値よりも小さい場合は表現可能な最小の数値に設定されます．符号付き飽和演算は，DSP（ディジタル信号処理）アルゴリズムで多用されます．これは，ARMプロセッサで使用される通常の符号付き整数演算とは大きく異なっています．通常の演算では，オーバフローした結果は+231－1から－231にラップ・アラウンドし，逆の場合も同じラップ・アラウンドが行われます．
【出典】Interface編集部 編；組み込み技術用語集，Interface 2007年8月号 別冊付録，CQ出版社，2007年8月．
