CONCEPT OUTLINE / floating-point-error

浮点数与舍入误差

理解有限二进制表示、机器精度、消去误差和条件数对计算可靠性的影响。

90 分钟正文计划中难度 3/5

章节大纲

  1. 01

    浮点数与舍入误差要解决的核心问题与适用边界

  2. 02

    浮点数与舍入误差的基本对象、符号和严格定义

  3. 03

    从「数列与级数」推导「浮点数与舍入误差」所需的关键步骤

  4. 04

    浮点数与舍入误差的典型计算、反例与常见误区

知识关系