专题路线

数值分析与最优化

用误差与稳定性分析组织数值线性代数、逼近与微分方程离散,再进入凸优化、对偶与信息度量。

2 个阶段12 章预计 16 小时
学习进度0/12 章完成
0%
开始学习浮点数、条件数与误差传播
先修内容

适合学习数值算法与误差分析的读者。

学习阶段

阶段自测

  1. 学完 M10 · 稳定性、收敛性与科学计算综合复习

    对一个线性方程组求解流程,分别说明问题条件数、算法后向稳定性与迭代法谱半径各自控制什么误差,并给出网格加密实验应报告的量。

  2. 学完 M11 · 最优化与信息论综合复习

    写出一个带等式与不等式约束凸问题的 KKT 条件,并说明如何用原始可行性、对偶可行性、驻点与互补松弛验证候选点最优。

综合练习

练习完成进度:0/2

难度 4/5

估计病态矩阵求解的误差放大

矩阵 A=[[1,1/2],[1/2,1/3]](2 阶 Hilbert 矩阵),右端扰动满足 ‖δb‖₂/‖b‖₂≤10⁻⁴。用 2-范数条件数估计解的相对误差上界,并说明该上界的实际含义。

查看提示

对称正定矩阵的 2-范数条件数等于最大与最小特征值之比;先求 A 的特征值。

展开分步解答

A 的特征方程为 λ²-(4/3)λ+1/12=0,解得 λ=(4±√13)/6,故 κ₂(A)=(4+√13)/(4-√13)=(29+8√13)/3≈19.28。扰动理论给出 ‖δx‖/‖x‖≤κ₂(A)·‖δb‖/‖b‖≈19.28×10⁻⁴≈1.9×10⁻³。含义是:右端万分之一的相对扰动,最坏可放大为解约千分之二的相对误差,放大因子由问题本身而非算法决定。

结果核验:直接求逆得 A⁻¹=[[4,-6],[-6,12]],取 b=(1,1)ᵀ 与 δb=(10⁻⁴,0)ᵀ 实际求解,x 的相对变化不超过上界;当 b 沿最大特征向量、δb 沿最小特征向量方向时放大接近 κ₂(A),说明上界可达。

难度 4/5

二次凸函数上梯度下降的收缩因子

对 f(x)=½ xᵀQx,Q=diag(1,10),使用精确线搜索的梯度下降。写出迭代格式,说明收缩因子由条件数 κ=10 决定的形式,并估计把误差 ‖xₖ-x*‖_Q 缩小 10⁴ 倍所需的迭代量级。

查看提示

梯度为 Qx,最优步长 αₖ=(gₖᵀgₖ)/(gₖᵀQgₖ);二次问题上精确线搜索每步收缩不超过 (κ-1)/(κ+1)。

展开分步解答

迭代为 xₖ₊₁=xₖ-αₖgₖ,gₖ=Qxₖ,αₖ=(gₖᵀgₖ)/(gₖᵀQgₖ)。这里 κ=λ_max/λ_min=10,误差满足 ‖xₖ-x*‖_Q≤((κ-1)/(κ+1))ᵏ‖x₀-x*‖_Q=(9/11)ᵏ‖x₀-x*‖_Q。要求 (9/11)ᵏ≤10⁻⁴ 得 k≥4ln10/ln(11/9)≈46,即需要数十次迭代,条件数直接决定收敛快慢。

结果核验:数值核对首步:x₀=(10,1)ᵀ 时 g₀=(10,10)ᵀ,α₀=200/1100=2/11,x₁=(90/11,-9/11)ᵀ,f 由 55 降至 8910/242≈36.8,比值恰为 (9/11)²,与理论收缩因子一致。

参考资料