飽和絶対値関数
出典: くみこみックス
版間での差分
(新しいページ: '飽和絶対値関数（ほうわぜったいかんすう） 2の補数の非対称性のために，負の最大値（32ビットなら0x80000000）の絶対値を求め...') |
|||
| 9 行 | 9 行 | ||
<br> | <br> | ||
| - | [[Category:組み込み技術全般]] [[Category:ARM用語]] | + | [[Category:組み込み技術全般|ホウワセッタイチカンスウ]] [[Category:ARM用語|ホウワセッタイチカンスウ]] |
2009年1月30日 (金) 01:58の版
飽和絶対値関数（ほうわぜったいかんすう）
2の補数の非対称性のために，負の最大値（32ビットなら0x80000000）の絶対値を求めようとすると，結果がオーバフローしてしまいます．それを避けるために，オーバレンジする前に適当な値で飽和させるように処理を行います．
【出典】Interface編集部 編；組み込み技術用語集，Interface 2007年8月号 別冊付録，CQ出版社，2007年8月．
