固定小数点演算
出典: くみこみックス
版間での差分
Worker (会話 | 投稿記録)
(新しいページ: '固定小数点演算 【Fixed-point Operation】 コンピュータで実数値を扱う計算方法として,浮動小数点演算と固定小数点演算がありま...')
次の差分→
2009年1月27日 (火) 07:30の版
固定小数点演算 【Fixed-point Operation】
コンピュータで実数値を扱う計算方法として,浮動小数点演算と固定小数点演算があります.固定小数点演算はその名の通り,実数値を現わすビット列中の小数点位置を決めておき,整数部のビット幅と小数部のビット幅を固定しておく方法です.浮動小数点演算に比べて高速な演算が可能で,丸めなどの情報落ちが発生しませんが,表現できる数値の範囲は浮動小数演算に比べて狭くなります.
【出典】(株)アルティマ 技術統括部 一同,下馬場 朋禄,山際 伸一,横溝 憲治;システム開発者のためのFPGA用語集,Design Wave Magazine 2008年12月号 別冊付録,CQ出版社,2008年12月.