飽和絶対値関数
出典: くみこみックス
版間での差分
| 4 行 | 4 行 | ||
<br> | <br> | ||
<br> | <br> | ||
| - | + | 【出典】宮崎 仁；ARM用語集，デザイン ウェーブ マガジン 2008年6月号 別冊付録，CQ出版社，2008年6月． | |
<!-- 【著作権者】宮崎 仁氏 --> | <!-- 【著作権者】宮崎 仁氏 --> | ||
<br> | <br> | ||
2009年2月23日 (月) 03:00の版
飽和絶対値関数（ほうわぜったいかんすう）
2の補数の非対称性のために，負の最大値（32ビットなら0x80000000）の絶対値を求めようとすると，結果がオーバフローしてしまいます．それを避けるために，オーバレンジする前に適当な値で飽和させるように処理を行います．
【出典】宮崎 仁；ARM用語集，デザイン ウェーブ マガジン 2008年6月号 別冊付録，CQ出版社，2008年6月．
