固定小数点演算
出典: くみこみックス
版間での差分
(新しいページ: '固定小数点演算 【Fixed-point Operation】 コンピュータで実数値を扱う計算方法として，浮動小数点演算と固定小数点演算がありま...') |
|||
| （間の 1 版分が非表示です） | |||
| 1 行 | 1 行 | ||
| - | + | 固定小数点演算（こていしょうすうてんえんざん） 【Fixed-point Operation】 | |
コンピュータで実数値を扱う計算方法として，浮動小数点演算と固定小数点演算があります．固定小数点演算はその名の通り，実数値を現わすビット列中の小数点位置を決めておき，整数部のビット幅と小数部のビット幅を固定しておく方法です．浮動小数点演算に比べて高速な演算が可能で，丸めなどの情報落ちが発生しませんが，表現できる数値の範囲は浮動小数演算に比べて狭くなります． | コンピュータで実数値を扱う計算方法として，浮動小数点演算と固定小数点演算があります．固定小数点演算はその名の通り，実数値を現わすビット列中の小数点位置を決めておき，整数部のビット幅と小数部のビット幅を固定しておく方法です．浮動小数点演算に比べて高速な演算が可能で，丸めなどの情報落ちが発生しませんが，表現できる数値の範囲は浮動小数演算に比べて狭くなります． | ||
| 12 行 | 12 行 | ||
* [[浮動小数点演算]] | * [[浮動小数点演算]] | ||
| - | [[Category:組み込み技術全般]] [[Category:FPGA]] | + | [[Category:組み込み技術全般|コテイショウスウテンエンサン]] [[Category:FPGA|コテイショウスウテンエンサン]] |
最新版
固定小数点演算（こていしょうすうてんえんざん） 【Fixed-point Operation】
コンピュータで実数値を扱う計算方法として，浮動小数点演算と固定小数点演算があります．固定小数点演算はその名の通り，実数値を現わすビット列中の小数点位置を決めておき，整数部のビット幅と小数部のビット幅を固定しておく方法です．浮動小数点演算に比べて高速な演算が可能で，丸めなどの情報落ちが発生しませんが，表現できる数値の範囲は浮動小数演算に比べて狭くなります．
【出典】（株）アルティマ 技術統括部 一同，下馬場 朋禄，山際 伸一，横溝 憲治；システム開発者のためのFPGA用語集，Design Wave Magazine 2008年12月号 別冊付録，CQ出版社，2008年12月．
