计算机浮点数算术运算的舍入误差研究 (2005年)

时间:2021-05-23 01:17:33
【文件属性】:
文件名称:计算机浮点数算术运算的舍入误差研究 (2005年)
文件大小:644KB
文件格式:PDF
更新时间:2021-05-23 01:17:33
自然科学 论文 对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还研究了向前误差分析和向后误差分析的要点。推广上述结果,对矩阵基本运算的舍入误差进行了估计。

网友评论