飽和固定小数点表現
出典: くみこみックス
版間での差分
(新しいページ: '飽和固定小数点表現(ほうわこていしょうすうひょうげん) ディジタル信号処理で用いられるデータ表現方法の一つです.主要...') |
|||
9 行 | 9 行 | ||
<br> | <br> | ||
- | [[Category:組み込み技術全般]] [[Category:ARM用語]] | + | [[Category:組み込み技術全般|ホウワコテイショウスウテンヒョウケン]] [[Category:ARM用語|ホウワコテイショウスウテンヒョウケン]] |
2009年1月30日 (金) 01:59の版
飽和固定小数点表現(ほうわこていしょうすうひょうげん)
ディジタル信号処理で用いられるデータ表現方法の一つです.主要な大部分のサンプリング・データが収まるように固定小数点のレンジを設定します.若干のデータははみ出す可能性がありますが,それらはレンジの最大値で飽和させます.例外的な過大データに合わせてレンジを広く取ることによる,実効分解能の低下を防ぐことができます.
【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8月.