丸め誤差

出典: くみこみックス

版間での差分
(新しいページ: '丸め誤差(まるめごさ)  数値演算の丸められた結果と,演算の正確な結果との差で定義されます. <br> <br> 【出典】Interface編集...')
最新版 (2009年2月23日 (月) 02:37) (ソースを表示)
M (1 版)
 
(間の 2 版分が非表示です)
11 行 11 行
<br>
<br>
-
[[Category:組み込み技術全般]] [[Category:ARM用語]
+
[[Category:組み込み技術全般|マルメコサ]] [[Category:ARM用語|マルメコサ]]

最新版

丸め誤差(まるめごさ)

 数値演算の丸められた結果と,演算の正確な結果との差で定義されます.

【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8

月.

表示