站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
15 项
- concept
目标函数与可行域
把决策变量、目标函数和约束写成明确优化问题，并区分局部与全局最优。
mathematics · optimization · 难度 2 · 详细大纲 - concept
凸集
用线段闭包定义凸集，并识别半空间、范数球和仿射集合等基本例子。
mathematics · optimization · 难度 3 · 详细大纲 - concept
凸函数
通过弦不等式和一阶条件刻画凸性，并说明局部最优为何成为全局最优。
mathematics · optimization · 难度 3 · 详细大纲 - concept
一阶最优性条件
用梯度为零、方向导数和次梯度条件判断无约束候选最优点。
mathematics · optimization · 难度 3 · 详细大纲 - article
梯度下降：从局部下降方向到可诊断的优化过程
从一阶近似与光滑性条件推导梯度下降，分析学习率、曲率、尺度、动量和停止准则如何共同决定收敛轨迹。
mathematics · optimization · 难度 3 · 正文可读 - concept
随机梯度下降
用随机样本或小批量近似完整梯度，权衡计算成本、方差与泛化行为。
mathematics · optimization · 难度 3 · 详细大纲 - concept
动量优化
累积历史更新方向以抑制高曲率振荡，并加速沿稳定方向的前进。
mathematics · optimization · 难度 3 · 详细大纲 - concept
自适应优化器
按参数历史梯度尺度调节有效学习率，比较 AdaGrad、RMSProp 和 Adam 的假设。
mathematics · optimization · 难度 4 · 详细大纲 - concept
学习率调度
用分段、余弦、指数或预热策略控制训练不同时期的更新尺度。
mathematics · optimization · 难度 3 · 详细大纲 - concept
Newton 方法
利用 Hessian 曲率修正梯度方向，理解二次收敛、阻尼和矩阵求解成本。
mathematics · optimization · 难度 4 · 详细大纲 - concept
约束优化
在等式或不等式可行域内寻找最优解，并区分可行方向和活跃约束。
mathematics · optimization · 难度 4 · 详细大纲 - concept
Lagrange 乘子
用乘子把等式约束并入目标函数，并从梯度平行关系推导候选解。
mathematics · optimization · 难度 4 · 详细大纲 - concept
优化对偶
由 Lagrangian 构造对偶函数，理解弱对偶、强对偶和对偶间隙。
mathematics · optimization · 难度 5 · 详细大纲 - concept
近端方法
用近端算子处理不可微正则项，并把梯度步骤与结构化收缩组合。
mathematics · optimization · 难度 5 · 详细大纲 - equation
梯度下降更新
\boldsymbol{\theta}_{k+1}=\boldsymbol{\theta}_k-\eta\nabla L(\boldsymbol{\theta}_k)
mathematics · optimization