飽和演算
出典: くみこみックス
版間での差分
| 4 行 | 4 行 | ||
<br> | <br> | ||
<br> | <br> | ||
| - | + | 【出典】宮崎 仁；ARM用語集，デザイン ウェーブ マガジン 2008年6月号 別冊付録，CQ出版社，2008年6月． | |
<!-- 【著作権者】宮崎 仁氏 --> | <!-- 【著作権者】宮崎 仁氏 --> | ||
<br> | <br> | ||
2009年2月23日 (月) 03:00の版
飽和演算（ほうわえんざん）
整数演算で，結果が表現可能な最大の数値よりも大きい場合は表現可能な最大の数値に設定され，結果が表現可能な最小の数値よりも小さい場合は表現可能な最小の数値に設定されます．符号付き飽和演算は，DSP（ディジタル信号処理）アルゴリズムで多用されます．これは，ARMプロセッサで使用される通常の符号付き整数演算とは大きく異なっています．通常の演算では，オーバフローした結果は+231－1から－231にラップ・アラウンドし，逆の場合も同じラップ・アラウンドが行われます．
【出典】宮崎 仁；ARM用語集，デザイン ウェーブ マガジン 2008年6月号 別冊付録，CQ出版社，2008年6月．
