FPU

出典: くみこみックス

版間での差分

Worker (会話 | 投稿記録)
(新しいページ: 'FPU(Floating Point Number Processing Unit)  浮動小数点ユニットの略です.コンピュータでは有限けたの数値しか扱えないため,実数は...')
次の差分→

2009年1月20日 (火) 06:42の版

FPU(Floating Point Number Processing Unit)

 浮動小数点ユニットの略です.コンピュータでは有限けたの数値しか扱えないため,実数は一般に有限けたの近似値で表現します.数の大きさにかかわらず一定の近似精度を得るために,仮数部+指数部という構成の浮動小数点数で表すのが普通です.浮動小数点数の演算を高速に実行するための演算ユニットをFPUと呼びます.

【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8月.

表示