丸め誤差

出典: くみこみックス

2009年2月23日 (月) 02:37; Kumikomiadmin (会話 | 投稿記録) による版
(差分) ←前の版 | 最新版を表示 (差分) | 次の版→ (差分)

丸め誤差(まるめごさ)

 数値演算の丸められた結果と,演算の正確な結果との差で定義されます.

【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8

月.

表示