10.3969/j.issn.1671-9727.2005.02.020
计算机浮点数算术运算的舍入误差研究
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础.论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证.并举例说明由算术运算的误差界,可建立较复杂运算的误差界.还研究了向前误差分析和向后误差分析的要点.推广上述结果,对矩阵基本运算的舍入误差进行了估计.
浮点数系统、舍入误差、机器精度、向后误差分析
32
O242.2(计算数学)
2005-05-19(万方平台首次上网日期,不代表论文的发表时间)
共4页
213-216