飽和固定小数点表現

出典: くみこみックス

版間での差分
4 行 4 行
<br>
<br>
<br>
<br>
-
【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8月.
+
【出典】宮崎 仁;ARM用語集,デザイン ウェーブ マガジン 2008年6月号 別冊付録,CQ出版社,2008年6月.
<!-- 【著作権者】宮崎 仁氏 -->
<!-- 【著作権者】宮崎 仁氏 -->
<br>
<br>

2009年2月23日 (月) 03:00の版

飽和固定小数点表現(ほうわこていしょうすうひょうげん)

 ディジタル信号処理で用いられるデータ表現方法の一つです.主要な大部分のサンプリング・データが収まるように固定小数点のレンジを設定します.若干のデータははみ出す可能性がありますが,それらはレンジの最大値で飽和させます.例外的な過大データに合わせてレンジを広く取ることによる,実効分解能の低下を防ぐことができます.

【出典】宮崎 仁;ARM用語集,デザイン ウェーブ マガジン 2008年6月号 別冊付録,CQ出版社,2008年6月.

表示