丸め誤差
出典: くみこみックス
版間での差分
(新しいページ: '丸め誤差(まるめごさ) 数値演算の丸められた結果と,演算の正確な結果との差で定義されます. <br> <br> 【出典】Interface編集...') |
M (1 版) |
||
(間の 2 版分が非表示です) | |||
11 行 | 11 行 | ||
<br> | <br> | ||
- | [[Category:組み込み技術全般]] [[Category:ARM用語] | + | [[Category:組み込み技術全般|マルメコサ]] [[Category:ARM用語|マルメコサ]] |
最新版
丸め誤差(まるめごさ)
数値演算の丸められた結果と,演算の正確な結果との差で定義されます.
【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8
月.