站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
- article
梯度下降：从局部下降方向到可诊断的优化过程
从一阶近似与光滑性条件推导梯度下降，分析学习率、曲率、尺度、动量和停止准则如何共同决定收敛轨迹。
mathematics · optimization · 难度 3 · 正文可读 - article
函数与函数图像：从对应规则到可分析的关系
把函数理解为定义域到陪域的确定对应，掌握表示、复合、反函数、图像变换和分段函数的基本方法。
mathematics · foundations · 难度 1 · 正文可读 - article
反向传播：链式法则如何训练神经网络
沿计算图拆解前向值、局部导数与总梯度，理解反向模式自动微分为何能高效训练共享参数的神经网络。
machine-learning · neural-networks · 难度 4 · 正文可读 - article
向量：从箭头到高维空间
从位移箭头、坐标与线性组合出发，理解向量如何成为描述方向、状态和高维数据的统一语言。
mathematics · linear-algebra · 难度 1 · 正文可读 - article
导数、方向导数与梯度
从全微分建立多变量函数的最佳线性近似，用梯度表示方向导数，并区分欧氏最陡方向、一般度量和约束条件。
mathematics · calculus · 难度 3 · 正文可读 - article
正则化：用结构偏好约束有限数据中的学习
从惩罚经验风险推导 L2 与 L1 正则化，解释尺度、贝叶斯联系、早停和数据增强，并规范超参数选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - concept
动量优化
累积历史更新方向以抑制高曲率振荡，并加速沿稳定方向的前进。
mathematics · optimization · 难度 3 · 详细大纲 - concept
数列与级数
研究离散序列的极限、递推关系和无穷求和，为连续极限与函数展开建立基础。
mathematics · foundations · 难度 2 · 详细大纲 - concept
自适应优化器
按参数历史梯度尺度调节有效学习率，比较 AdaGrad、RMSProp 和 Adam 的假设。
mathematics · optimization · 难度 4 · 详细大纲 - concept
Lagrange 乘子
用乘子把等式约束并入目标函数，并从梯度平行关系推导候选解。
mathematics · optimization · 难度 4 · 详细大纲 - concept
Newton 运动定律
把合力与动量变化联系起来，并明确惯性系、质量和作用反作用的适用条件。
physics · classical-mechanics · 难度 2 · 详细大纲 - concept
一阶最优性条件
用梯度为零、方向导数和次梯度条件判断无约束候选最优点。
mathematics · optimization · 难度 3 · 详细大纲 - concept
凸集
用线段闭包定义凸集，并识别半空间、范数球和仿射集合等基本例子。
mathematics · optimization · 难度 3 · 详细大纲 - concept
动量守恒
从封闭系统内力成对抵消推导总动量守恒，并分析碰撞与质心运动。
physics · classical-mechanics · 难度 3 · 详细大纲 - concept
批归一化
利用小批量统计量标准化中间激活，并区分训练与推理阶段的统计处理。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
支持向量机
通过最大化分类间隔学习决策超平面，并由支持向量决定最终边界。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
最大似然估计
把观测数据在模型参数下的概率视为目标函数，并求使其最大的参数。
mathematics · probability · 难度 3 · 详细大纲 - concept
生成对抗网络
让生成器与判别器进行极小极大博弈，以隐式方式逼近数据分布。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
生成模型
学习数据联合分布或生成过程，使模型能够采样、补全、重建并估计不确定性。
machine-learning · generative-models · 难度 4 · 详细大纲 - concept
目标函数与可行域
把决策变量、目标函数和约束写成明确优化问题，并区分局部与全局最优。
mathematics · optimization · 难度 2 · 详细大纲 - concept
神经网络优化
把反向传播梯度交给小批量、动量和自适应优化器，并监控训练稳定性。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
约束优化
在等式或不等式可行域内寻找最优解，并区分可行方向和活跃约束。
mathematics · optimization · 难度 4 · 详细大纲 - concept
经验风险最小化
用有限样本上的平均损失近似总体风险，并明确假设空间和优化误差。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
能量模型
以未归一化能量函数为数据赋分，并通过采样或对比方法学习低能量区域。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
随机梯度下降
用随机样本或小批量近似完整梯度，权衡计算成本、方差与泛化行为。
mathematics · optimization · 难度 3 · 详细大纲 - symbol
eta · 梯度下降学习率
eta
- symbol
L · 待最小化的损失函数
L
- symbol
theta · 模型参数向量
oldsymbol{ heta}
- learning-path
从感知机到 Transformer
沿梯度流、卷积、循环、注意力和残差结构理解现代神经网络。