10.3969/j.issn.1002-137X.2008.04.084
科学计算程序语言的浮点数机制研究
浮点数运算存在精度方面、比较方面以及舍入误差等方面的问题,而这些问题直接影响到科学计算的准确性、可靠性和安全性等等.目前有关浮点数的中文资料很少,很多教科书上在谈到浮点数时都是浅尝辄止,本文以C语言浮点数机制为研究基础,对浮点数的格式、精度与应用等方面问题进行了实证研究,获得了一些有用的结果.
程序设计语言、浮点数机制、C语言
35
TP3(计算技术、计算机技术)
2008-06-23(万方平台首次上网日期,不代表论文的发表时间)
共4页
285-287,291