学科分类
/ 1
1 个结果
  • 简介:介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项。

  • 标签: 数值计算 计算误差 初步理解 简单分析