飽和絶対値関数

出典: くみこみックス

版間での差分
(新しいページ: '飽和絶対値関数(ほうわぜったいかんすう)  2の補数の非対称性のために,負の最大値(32ビットなら0x80000000)の絶対値を求め...')
9 行 9 行
<br>
<br>
-
[[Category:組み込み技術全般]] [[Category:ARM用語]]
+
[[Category:組み込み技術全般|ホウワセッタイチカンスウ]] [[Category:ARM用語|ホウワセッタイチカンスウ]]

2009年1月30日 (金) 01:58の版

飽和絶対値関数(ほうわぜったいかんすう)

 2の補数の非対称性のために,負の最大値(32ビットなら0x80000000)の絶対値を求めようとすると,結果がオーバフローしてしまいます.それを避けるために,オーバレンジする前に適当な値で飽和させるように処理を行います.

【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8月.

表示