One Forth

课程主题

最优化

目标、约束与数值求解。

01

课程章节

按难度与先修关系排列

  1. 01难度 3/5梯度下降沿负梯度方向迭代更新参数，并分析步长、曲率和初值对收敛的影响。先修：梯度约 90 分钟
  2. 02难度 3/5优化模型、可行域与最优性把决策变量、目标、约束和参数写成明确问题，区分可行性、局部最优与全局最优，并检查尺度和存在性。先修：多变量函数、极限与连续 · 梯度 · 集合与映射约 90 分钟
  3. 03难度 4/5凸集、凸函数与次梯度使用线段和支撑不等式定义凸性，把不可微凸函数的梯度推广为次梯度，并利用凸性排除非全局局部极小。先修：优化模型、可行域与最优性 · 梯度约 105 分钟
  4. 04难度 4/5熵、互信息与散度用概率加权的对数损失定义熵和 KL 散度，推导链式法则与互信息表达，并区分离散熵和微分熵。先修：条件概率与独立性 · 期望、方差与协方差约 105 分钟
  5. 05难度 4/5约束优化、KKT 条件与对偶性以 Lagrange 乘子形成对偶下界，在约束资格下使用 KKT 条件，并解释强对偶、互补松弛与敏感性。先修：凸集、凸函数与次梯度 · 梯度下降 · 线性方程组约 105 分钟
  6. 06难度 4/5最优化与信息论综合复习在概率单纯形上的约束问题中联合使用凸性、KKT、梯度方法、熵和散度，并交叉核对边界与单位。先修：优化模型、可行域与最优性 · 凸集、凸函数与次梯度 · 梯度下降 · 约束优化、KKT 条件与对偶性 · 熵、互信息与散度约 105 分钟