丸め誤差

出典: くみこみックス

版間での差分

Worker (会話 | 投稿記録)
(新しいページ: '丸め誤差（まるめごさ） 　数値演算の丸められた結果と，演算の正確な結果との差で定義されます． <br> <br> 【出典】Interface編集...')
次の差分→

2009年1月28日 (水) 03:14の版

丸め誤差（まるめごさ）

　数値演算の丸められた結果と，演算の正確な結果との差で定義されます．

【出典】Interface編集部 編；組み込み技術用語集，Interface 2007年8月号 別冊付録，CQ出版社，2007年8

月．

[[Category:ARM用語]

"http://mix.kumikomi.net/index.php/%E4%B8%B8%E3%82%81%E8%AA%A4%E5%B7%AE" より作成
表示