飽和絶対値関数

出典: くみこみックス

2009年2月23日 (月) 03:00; Worker (会話 | 投稿記録) による版

飽和絶対値関数(ほうわぜったいかんすう)

 2の補数の非対称性のために,負の最大値(32ビットなら0x80000000)の絶対値を求めようとすると,結果がオーバフローしてしまいます.それを避けるために,オーバレンジする前に適当な値で飽和させるように処理を行います.

【出典】宮崎 仁;ARM用語集,デザイン ウェーブ マガジン 2008年6月号 別冊付録,CQ出版社,2008年6月.

表示