ゼロへの丸め(RN)モード

出典: くみこみックス

2009年1月27日 (火) 08:17; Worker (会話 | 投稿記録) による版
(差分) ←前の版 | 最新版を表示 (差分) | 次の版→ (差分)

ゼロへの丸め(RN)モード(ゼロへのまるめモード)

 丸め結果が,丸め前の結果に最も近い,かつ絶対値がより大きくない表現可能な数値になることを意味します.

【出典】Interface編集部 編;組み込み技術用語集,Interface 2007年8月号 別冊付録,CQ出版社,2007年8月.

表示