站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
- article
Stanford CS229 Course Materials
覆盖监督学习、广义线性模型、学习理论、优化与生成学习算法。
- symbol
grad f · 函数 f 的梯度
\nabla f
- article
MIT 18.03SC Differential Equations
覆盖常微分方程、线性系统、傅里叶级数与拉普拉斯变换。
- article
向量：从箭头到高维空间
从位移箭头、坐标与线性组合出发，理解向量如何成为描述方向、状态和高维数据的统一语言。
mathematics · linear-algebra · 难度 1 · 正文可读 - article
导数、方向导数与梯度
从全微分建立多变量函数的最佳线性近似，用梯度表示方向导数，并区分欧氏最陡方向、一般度量和约束条件。
mathematics · calculus · 难度 3 · 正文可读 - article
期望、方差与协方差：分布的中心、尺度和共同变化
从分布定义期望和二阶矩，推导方差与协方差的运算规律，并区分独立、零协方差、相关和因果关系。
mathematics · probability · 难度 2 · 正文可读 - article
梯度下降：从局部下降方向到可诊断的优化过程
从一阶近似与光滑性条件推导梯度下降，分析学习率、曲率、尺度、动量和停止准则如何共同决定收敛轨迹。
mathematics · optimization · 难度 3 · 正文可读 - article
激活函数：表达能力、梯度传播与输出语义
从线性层复合的退化出发，比较 sigmoid、tanh、ReLU、GELU 与 SiLU 的函数形状、导数、数值行为和输出层适用范围。
machine-learning · neural-networks · 难度 3 · 正文可读 - article
MIT 18.01SC Single Variable Calculus
含讲义、视频、例题、习题与解答的单变量微积分自学课程。
- article
MIT 18.02SC Multivariable Calculus
覆盖向量、矩阵、多元微分、多重积分与向量分析的自学课程。
- article
MIT 18.06SC Linear Algebra
从线性方程组进入向量空间、矩阵分解、行列式与特征值。
- article
MIT 8.03SC Physics III: Vibrations and Waves
从振子、耦合模态进入机械波、电磁波与波动方程的本科物理课程。
- article
傅里叶级数：用正交谐波展开周期函数
从三角函数正交性推导傅里叶系数，分析部分和、收敛、Gibbs 现象，并连接固定弦的模态演化。
mathematics · calculus · 难度 3 · 正文可读 - article
函数与函数图像：从对应规则到可分析的关系
把函数理解为定义域到陪域的确定对应，掌握表示、复合、反函数、图像变换和分段函数的基本方法。
mathematics · foundations · 难度 1 · 正文可读 - article
反向传播：链式法则如何训练神经网络
沿计算图拆解前向值、局部导数与总梯度，理解反向模式自动微分为何能高效训练共享参数的神经网络。
machine-learning · neural-networks · 难度 4 · 正文可读 - article
导数与微分：从变化率到局部线性化
由割线斜率的极限定义导数，推导乘积与链式法则，说明微分作为最佳局部线性近似的含义，并连接中值定理与误差估计。
mathematics · calculus · 难度 2 · 正文可读 - article
感知机与多层感知机：从线性边界到可学习的非线性
从线性阈值分类器、误分类更新与可分性出发，推导多层感知机的前向传播、张量形状、参数数量和表达能力边界。
machine-learning · neural-networks · 难度 3 · 正文可读 - article
损失函数：把预测目标写成可优化的风险
区分单样本损失、经验风险、正则化目标与任务指标，比较回归和分类常用损失的统计含义与优化性质。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
极限与连续性：用邻域刻画逼近
从数值逼近进入 ε-δ 定义，证明极限的唯一性与运算规则，并用连续性连接局部行为、方程求根和后续微积分。
mathematics · calculus · 难度 2 · 正文可读 - article
正则化：用结构偏好约束有限数据中的学习
从惩罚经验风险推导 L2 与 L1 正则化，解释尺度、贝叶斯联系、早停和数据增强，并规范超参数选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - article
注意力机制：从加权平均到自注意力
从数据相关的加权平均推导缩放点积注意力，明确 query、key、value 的形状、softmax 归一化与解释边界。
machine-learning · neural-networks · 难度 4 · 正文可读 - article
特征值与特征向量：寻找线性变换的不变方向
从方向不变条件推导特征方程，区分代数与几何重数，判断对角化，并连接矩阵幂、稳定性和对称矩阵。
mathematics · linear-algebra · 难度 3 · 正文可读 - article
监督学习：从带标签样本到可检验的预测规则
建立监督学习的问题定义，区分样本、模型、损失、经验风险、验证选择与未知分布上的泛化误差。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
矩阵：组织线性关系的坐标语言
从形状、行列与列向量出发，理解矩阵运算、矩阵乘法、单位矩阵、逆矩阵和分块计算的结构含义。
mathematics · linear-algebra · 难度 1 · 正文可读 - article
积分与累积：从黎曼和到微积分基本定理
从分割区间和局部贡献出发定义定积分，推导积分的基本性质与微积分基本定理，并区分净累积、几何面积和原函数。
mathematics · calculus · 难度 2 · 正文可读 - article
线性变换：把矩阵看作空间运动
把矩阵理解为保持线性组合的空间映射，并用基向量、行列式与奇异性解释二维变换的几何行为。
mathematics · linear-algebra · 难度 2 · 正文可读 - article
行列式：有向体积、可逆性与消元
从平行四边形有向面积出发，推导行列式的多线性、交替性、行变换规则及其与可逆性的等价关系。
mathematics · linear-algebra · 难度 2 · 正文可读 - article
过拟合与泛化：训练集之外的误差从何而来
区分训练误差、验证估计、泛化间隙与分布偏移，并用容量、集中界和偏差方差分析解释模型选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - article
逻辑回归：从线性得分到二分类概率
由伯努利条件模型推导 sigmoid、对数几率、交叉熵、梯度与决策阈值，并说明线性可分和概率解释的边界。
machine-learning · learning-theory · 难度 3 · 正文可读 - article
随机变量与概率分布：从随机结果到可计算的数值规律
把随机变量定义为样本空间上的可测函数，统一理解分布函数、概率质量函数、概率密度、支持集与变量变换。
mathematics · probability · 难度 2 · 正文可读 - concept
Transformer
组合多头自注意力、前馈网络、残差与归一化，构成并行序列建模架构。
machine-learning · neural-networks · 难度 4 · 详细大纲 - learning-path
从感知机到 Transformer
沿梯度流、卷积、循环、注意力和残差结构理解现代神经网络。
- concept
Hessian 矩阵
用二阶偏导矩阵描述标量函数的局部曲率，并分析极值点附近的方向结构。
mathematics · calculus · 难度 3 · 详细大纲 - concept
一阶最优性条件
用梯度为零、方向导数和次梯度条件判断无约束候选最优点。
mathematics · optimization · 难度 3 · 详细大纲 - concept
参数初始化与梯度流
分析权重尺度如何影响前向方差和反向梯度，理解 Xavier 与 He 初始化。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
可微分物理
让数值模拟器对参数可微，以梯度方法进行系统辨识、控制和逆问题求解。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
得分匹配
学习对数密度关于数据的梯度，避免显式计算归一化常数并连接去噪目标。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
循环网络、LSTM 与 GRU
用递归隐藏状态处理序列，并以门控机制缓解长期依赖中的梯度衰减。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
残差连接
让层学习相对恒等映射的残差，改善深层网络的信息与梯度传播。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
矩阵乘法
从行列内积和映射复合理解矩阵乘法，明确不可交换性与维度匹配条件。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
近端方法
用近端算子处理不可微正则项，并把梯度步骤与结构化收缩组合。
mathematics · optimization · 难度 5 · 详细大纲 - experiment
方向导数与梯度场
移动观察点和方向，比较梯度、方向向量与方向导数。
mathematics - concept
Bayes 定理
将条件概率方向反转，用先验、似然和证据计算后验概率。
mathematics · probability · 难度 2 · 详细大纲 - concept
Jacobian 矩阵
用一阶偏导矩阵表示多输入多输出映射的最佳局部线性近似。
mathematics · calculus · 难度 3 · 详细大纲 - concept
Lagrange 乘子
用乘子把等式约束并入目标函数，并从梯度平行关系推导候选解。
mathematics · optimization · 难度 4 · 详细大纲 - concept
Lagrange 力学
以作用量驻值推导广义坐标方程，把约束和对称性纳入力学描述。
physics · classical-mechanics · 难度 4 · 详细大纲 - concept
Laplace 变换
用复频率积分把微分方程转化为代数方程，并系统处理初始条件。
mathematics · calculus · 难度 4 · 详细大纲 - concept
Markov 链
用状态转移矩阵描述无记忆随机演化，并分析平稳分布和长期行为。
mathematics · probability · 难度 4 · 详细大纲 - concept
Monte Carlo 方法
通过随机采样近似期望和积分，并用方差与有效样本量评价误差。
mathematics · probability · 难度 4 · 详细大纲 - concept
Newton 方法
利用 Hessian 曲率修正梯度方向，理解二次收敛、阻尼和矩阵求解成本。
mathematics · optimization · 难度 4 · 详细大纲 - concept
Newton 运动定律
把合力与动量变化联系起来，并明确惯性系、质量和作用反作用的适用条件。
physics · classical-mechanics · 难度 2 · 详细大纲 - concept
Schrödinger 方程
用 Hamilton 算符生成量子态的时间演化，并区分含时与定态方程。
physics · quantum-mechanics · 难度 5 · 详细大纲 - concept
Sturm–Liouville 理论
研究带权自伴二阶边值问题，建立正交本征函数、实本征值和函数展开。
mathematics · calculus · 难度 5 · 详细大纲 - concept
Taylor 展开
以一点处的导数构造多项式局部近似，并用余项控制截断误差。
mathematics · calculus · 难度 3 · 详细大纲 - concept
三角函数
从单位圆定义正弦、余弦和正切，理解周期、相位与常用恒等式。
mathematics · foundations · 难度 1 · 详细大纲 - concept
不确定性量化
区分参数、观测和模型误差，并传播其分布以给出校准的预测区间。
interdisciplinary · scientific-machine-learning · 难度 4 · 详细大纲 - concept
二分类判别
将输入映射为两个类别的概率或得分，并用决策阈值和混淆矩阵评价结果。
machine-learning · generative-models · 难度 2 · 详细大纲 - concept
二次型
用矩阵表达多变量二次函数，并由特征方向分析等值面与曲率。
mathematics · linear-algebra · 难度 3 · 详细大纲 - concept
优化对偶
由 Lagrangian 构造对偶函数，理解弱对偶、强对偶和对偶间隙。
mathematics · optimization · 难度 5 · 详细大纲 - concept
位置编码
向无序的注意力计算注入序列位置信息，比较正弦、学习式和相对位置方案。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
偏导数
在其他变量固定时测量多变量函数沿坐标方向的局部变化率。
mathematics · calculus · 难度 2 · 详细大纲 - concept
偏差—方差分解
把平方预测误差分解为系统偏差、样本波动与不可约噪声，解释模型复杂度权衡。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
偏微分方程
用多个自变量的偏导描述场的空间与时间变化，并区分椭圆、抛物和双曲类型。
mathematics · calculus · 难度 4 · 详细大纲 - concept
偏微分方程数值解
把空间与时间离散组合为可计算更新，检查一致性、稳定性和收敛性。
computer-science · scientific-computing · 难度 5 · 详细大纲 - concept
傅里叶变换
把非周期信号表示为连续频率成分，并连接时域卷积、频域乘法和谱宽。
mathematics · calculus · 难度 4 · 详细大纲 - concept
决策树
递归选择特征划分样本空间，并用纯度、深度和剪枝控制拟合复杂度。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
凸函数
通过弦不等式和一阶条件刻画凸性，并说明局部最优为何成为全局最优。
mathematics · optimization · 难度 3 · 详细大纲 - concept
凸集
用线段闭包定义凸集，并识别半空间、范数球和仿射集合等基本例子。
mathematics · optimization · 难度 3 · 详细大纲 - concept
函数空间映射
把输入函数映射为输出函数，区分有限维参数拟合与无限维算子学习。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
初值问题
给定某一时刻的状态后求解微分方程，并理解存在唯一性对演化预测的意义。
mathematics · calculus · 难度 3 · 详细大纲 - concept
动量优化
累积历史更新方向以抑制高曲率振荡，并加速沿稳定方向的前进。
mathematics · optimization · 难度 3 · 详细大纲 - concept
反常积分
用极限定义无穷区间或无界被积函数的积分，并判断其收敛性。
mathematics · calculus · 难度 3 · 详细大纲 - concept
变分法
对函数空间中的泛函求驻值，推导 Euler–Lagrange 方程及边界项。
mathematics · calculus · 难度 4 · 详细大纲 - concept
变分自编码器
用可学习近似后验和重参数化梯度优化证据下界，形成连续潜在空间。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
叠加原理
说明线性方程解的线性组合仍是解，并用干涉现象展示振幅的相加与相消。
physics · waves · 难度 2 · 详细大纲 - concept
向量场
给空间中每一点分配一个向量，用于描述速度场、力场和梯度场。
mathematics · calculus · 难度 3 · 详细大纲 - concept
向量空间与子空间
用封闭性公理刻画向量空间，并检验解集、函数集和矩阵集是否构成子空间。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
向量运算与内积
计算向量加法、数乘、范数和内积，并解释长度、夹角与相似度的几何意义。
mathematics · linear-algebra · 难度 1 · 详细大纲 - concept
命题逻辑与量词
区分命题、蕴含、等价、全称量词和存在量词，并正确否定带量词的陈述。
mathematics · foundations · 难度 1 · 详细大纲 - concept
因果表征学习
从观测与干预中学习能稳定表达生成因素和因果机制的潜在表示。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
图神经网络
通过邻域消息传递更新节点表示，并用置换不变聚合处理非欧氏结构。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
图算法
在节点和边结构上执行遍历、最短路和拓扑排序，分析可达性与依赖关系。
computer-science · algorithms · 难度 3 · 详细大纲 - concept
坐标几何
用坐标、距离、斜率和曲线方程把平面几何对象转化为可计算的代数关系。
mathematics · foundations · 难度 1 · 详细大纲 - concept
复数与复平面
用代数形式和极坐标形式表示复数，理解模、幅角、共轭与旋转缩放的联系。
mathematics · foundations · 难度 2 · 详细大纲 - concept
多模态学习
对齐文本、图像、音频等不同表示空间，并通过共享或交叉注意力融合信息。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
多重积分
在二维和高维区域上累积标量密度，并处理积分次序与变量变换。
mathematics · calculus · 难度 3 · 详细大纲 - concept
多项式与根
分析多项式的次数、因式分解、根及重数，并连接代数表达式与函数图像。
mathematics · foundations · 难度 2 · 详细大纲 - concept
大数定律
说明独立样本均值在适当条件下趋近总体期望，并区分弱收敛与强收敛。
mathematics · probability · 难度 3 · 详细大纲 - concept
大语言模型
以大规模自回归 Transformer 建模文本分布，并区分预训练、对齐和推理阶段。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
学习率调度
用分段、余弦、指数或预热策略控制训练不同时期的更新尺度。
mathematics · optimization · 难度 3 · 详细大纲 - concept
对比表征学习
通过拉近匹配样本表示并推远不匹配样本，学习具有语义结构的嵌入空间。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
常微分方程
用未知函数及其常导数描述动态规律，区分阶数、线性、自治和初值条件。
mathematics · calculus · 难度 3 · 详细大纲 - concept
常微分方程数值解
用 Euler 和 Runge–Kutta 方法推进初值问题，并分析稳定性、阶数和步长。
computer-science · scientific-computing · 难度 4 · 详细大纲 - concept
序列建模
根据顺序依赖分解联合概率或条件预测，处理可变长度输入与因果掩码。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
归一化流
用可逆变换和 Jacobian 行列式把简单密度映射为复杂密度，同时保留精确似然。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
微积分基本定理
证明求导与积分在适当连续条件下互为逆运算，并连接局部变化与总累积。
mathematics · calculus · 难度 3 · 详细大纲 - concept
扩散模型
学习逐步去除噪声的逆过程，从简单噪声分布生成高维数据样本。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
批归一化
利用小批量统计量标准化中间激活，并区分训练与推理阶段的统计处理。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
抽样分布
研究统计量在重复抽样中的分布，为标准误、区间估计和检验建立基础。
mathematics · probability · 难度 3 · 详细大纲 - concept
数值微分
用有限差分近似导数，并平衡截断误差、舍入误差和步长选择。
computer-science · scientific-computing · 难度 3 · 详细大纲 - concept
数值积分
用求积公式近似定积分，并根据光滑性和网格细化估计误差。
computer-science · scientific-computing · 难度 3 · 详细大纲 - concept
数列与级数
研究离散序列的极限、递推关系和无穷求和，为连续极限与函数展开建立基础。
mathematics · foundations · 难度 2 · 详细大纲 - concept
数学归纳法
通过基例和归纳步骤证明离散命题，并识别强归纳法适用的递归结构。
mathematics · foundations · 难度 2 · 详细大纲 - concept
方向导数
沿任意给定方向定义多变量函数的变化率，并连接单位方向与局部线性近似。
mathematics · calculus · 难度 3 · 详细大纲 - concept
无限深方势阱
在零边界波函数条件下求解定态 Schrödinger 方程，得到离散能级和正弦本征态。
physics · quantum-mechanics · 难度 4 · 详细大纲 - concept
曲线积分
沿参数曲线累积标量或向量场贡献，并解释功与环流的数学表达。
mathematics · calculus · 难度 3 · 详细大纲 - concept
曲面积分
在参数曲面上累积密度或通量，明确面积元和法向方向的作用。
mathematics · calculus · 难度 4 · 详细大纲 - concept
有限元基础
从弱形式和局部基函数组装离散系统，用网格逼近复杂区域上的边值问题。
computer-science · scientific-computing · 难度 5 · 详细大纲 - concept
有限差分方法
在离散网格上用差分替代导数，构造微分方程的代数近似。
computer-science · scientific-computing · 难度 4 · 详细大纲 - concept
条件概率与独立性
在已知事件发生的条件下更新样本空间，并区分独立、互斥和条件独立。
mathematics · probability · 难度 2 · 详细大纲 - concept
核方法
用正定核隐式计算高维特征空间内积，构造非线性分类和回归模型。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
格林函数
用点源响应构造线性微分方程的受迫解，并把边界条件编码进核函数。
physics · waves · 难度 5 · 详细大纲 - concept
概率公理与事件
用样本空间、事件集合和可列可加测度建立概率推理的基本规则。
mathematics · probability · 难度 2 · 详细大纲 - concept
模型评估
按任务选择准确率、精确率、召回率、ROC 或回归误差，并避免训练集评估偏差。
machine-learning · learning-theory · 难度 2 · 详细大纲 - concept
正交性
用零内积表达方向独立性，并理解正交基如何简化坐标、长度和数值计算。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
正交投影
把向量分解到子空间及其正交补上，并推导投影矩阵与最小距离性质。
mathematics · linear-algebra · 难度 3 · 详细大纲 - concept
正定矩阵
通过二次型和特征值判断矩阵是否在所有非零方向产生正曲率。
mathematics · linear-algebra · 难度 3 · 详细大纲 - concept
波动边界条件
区分固定端、自由端和周期边界，并判断反射相位与允许解族。
physics · waves · 难度 3 · 详细大纲 - concept
波的傅里叶分析
把复杂波形分解为单频模式，并观察频谱如何控制传播、干涉和色散。
physics · waves · 难度 4 · 详细大纲 - concept
波的振幅、频率与相位
用振幅、周期、频率、波长、相位和波速定量描述行波的时空结构。
physics · waves · 难度 2 · 详细大纲 - concept
浮点数与舍入误差
理解有限二进制表示、机器精度、消去误差和条件数对计算可靠性的影响。
computer-science · scientific-computing · 难度 3 · 详细大纲 - concept
混合专家模型
用路由器为每个输入选择少量专家子网络，在计算受控时扩展参数容量。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
潜变量模型
引入不可直接观测的随机变量解释数据结构，并通过边缘化连接隐变量与观测。
machine-learning · generative-models · 难度 4 · 详细大纲 - concept
熵与互信息
量化随机变量的不确定性以及两个变量共享的信息，连接编码、推断和学习。
mathematics · probability · 难度 4 · 详细大纲 - concept
物理信息神经网络
把微分方程残差、边界条件和数据误差共同写入损失函数，近似场的解。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
生成对抗网络
让生成器与判别器进行极小极大博弈，以隐式方式逼近数据分布。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
生成模型
学习数据联合分布或生成过程，使模型能够采样、补全、重建并估计不确定性。
machine-learning · generative-models · 难度 4 · 详细大纲 - concept
目标函数与可行域
把决策变量、目标函数和约束写成明确优化问题，并区分局部与全局最优。
mathematics · optimization · 难度 2 · 详细大纲 - concept
矩阵运算
掌握矩阵加法、数乘、转置和分块操作，并跟踪各运算对矩阵形状的要求。
mathematics · linear-algebra · 难度 1 · 详细大纲 - concept
神经算子
学习函数空间之间的映射，使模型能够跨输入场和网格近似一族算子解。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
神经网络优化
把反向传播梯度交给小批量、动量和自适应优化器，并监控训练稳定性。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
科学机器学习
把可解释科学模型、观测数据和学习算法组合，用于反演、预测与加速计算。
interdisciplinary · scientific-machine-learning · 难度 4 · 详细大纲 - concept
简谐振子
由线性回复力推导正弦时间演化，并用振幅、相位和固有频率描述状态。
physics · waves · 难度 2 · 详细大纲 - concept
算法复杂度
用渐近记号比较算法随输入规模增长的时间和空间成本，并区分最坏与平均情况。
computer-science · algorithms · 难度 2 · 详细大纲 - concept
算符与可观测量
用自伴线性算符表示可观测量，并由本征值和期望值连接测量结果。
physics · quantum-mechanics · 难度 4 · 详细大纲 - concept
约束优化
在等式或不等式可行域内寻找最优解，并区分可行方向和活跃约束。
mathematics · optimization · 难度 4 · 详细大纲 - concept
线性方程组
把多个线性约束写成矩阵方程，分析无解、唯一解和无穷多解的条件。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
线性组合
用系数组合一组向量，判断一个目标向量是否能够由给定生成集合表示。
mathematics · linear-algebra · 难度 1 · 详细大纲 - concept
经验风险最小化
用有限样本上的平均损失近似总体风险，并明确假设空间和优化误差。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
统计估计
区分点估计和区间估计，并用偏差、方差、一致性和效率评价估计量。
mathematics · probability · 难度 3 · 详细大纲 - concept
置信区间
构造具有指定长期覆盖率的随机区间，并避免把覆盖率误解为参数后验概率。
mathematics · probability · 难度 3 · 详细大纲 - concept
联合分布与条件分布
描述多个随机变量的共同变化，并由边缘化和条件化提取局部规律。
mathematics · probability · 难度 3 · 详细大纲 - concept
自动微分
把程序拆为基本运算图，通过前向或反向累积精确应用链式法则。
computer-science · algorithms · 难度 4 · 详细大纲 - concept
自注意力
让同一序列产生 query、key、value，使每个位置按内容动态聚合其他位置。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
自监督学习
从数据本身构造预测或对比任务，学习可迁移表示而不依赖人工标签。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
自编码器
用编码器压缩输入并由解码器重建，学习受瓶颈或正则约束的表示。
machine-learning · generative-models · 难度 3 · 详细大纲 - concept
自适应优化器
按参数历史梯度尺度调节有效学习率，比较 AdaGrad、RMSProp 和 Adam 的假设。
mathematics · optimization · 难度 4 · 详细大纲 - concept
色散关系
用频率与波数之间的关系判断相速度、群速度以及波包是否发生展宽。
physics · waves · 难度 4 · 详细大纲 - concept
证明方法
组织直接证明、反证法、逆否证明和构造证明，明确假设与结论之间的推理链。
mathematics · foundations · 难度 2 · 详细大纲 - concept
贝叶斯推断
用先验和似然形成后验分布，并通过后验预测表达参数不确定性。
mathematics · probability · 难度 4 · 详细大纲 - concept
边值问题
在区域边界施加函数值或通量条件，并研究这些约束如何选择微分方程的解。
mathematics · calculus · 难度 4 · 详细大纲 - concept
运动学
用位置、速度和加速度描述质点运动，不预设产生运动的具体相互作用。
physics · classical-mechanics · 难度 2 · 详细大纲 - concept
迭代线性求解器
通过残差更新逐步逼近大型稀疏线性系统的解，并用谱性质判断收敛。
computer-science · scientific-computing · 难度 4 · 详细大纲 - concept
递归与递推
把问题分解为规模更小的同类问题，并用基例和调用栈保证计算终止。
computer-science · algorithms · 难度 2 · 详细大纲 - concept
量子态与态空间
用复向量或波函数表示量子系统状态，并以归一化和相位等价约束物理预测。
physics · quantum-mechanics · 难度 4 · 详细大纲 - concept
链式法则
把复合函数的局部变化拆为各层导数的乘积，并推广到多变量映射。
mathematics · calculus · 难度 2 · 详细大纲 - concept
随机梯度下降
用随机样本或小批量近似完整梯度，权衡计算成本、方差与泛化行为。
mathematics · optimization · 难度 3 · 详细大纲 - concept
集合与映射
用集合、子集、笛卡尔积和映射描述数学对象的范围、对应关系与复合规则。
mathematics · foundations · 难度 1 · 详细大纲 - concept
集成学习
组合多个基学习器降低方差或偏差，比较 bagging、随机森林和 boosting。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
驻波
由相向传播的同频波叠加得到节点和腹点固定的空间振型。
physics · waves · 难度 3 · 详细大纲 - equation
方向导数与梯度
D_{\mathbf{u}}f(\mathbf{x})=\nabla f(\mathbf{x})^\mathsf{T}\mathbf{u}
mathematics · calculus - learning-path
机器学习数学基础
把线性代数、多变量微分、概率矩和优化连接为机器学习的统一计算语言。
- equation
梯度下降更新
\boldsymbol{\theta}_{k+1}=\boldsymbol{\theta}_k-\eta\nabla L(\boldsymbol{\theta}_k)
mathematics · optimization - learning-path
高等数学基础
从函数极限进入一元微积分，再过渡到多变量变化率和微分方程。
- experiment
二维线性变换
观察矩阵如何移动网格、基向量与有向面积。
mathematics - experiment
傅里叶谐波叠加
逐项加入不同频率的正弦分量，观察部分和逼近周期波形。
physics - experiment
梯度下降
比较学习率与动量如何改变优化轨迹。
mathematics - experiment
注意力权重矩阵
比较 token 间分数、softmax 权重和因果掩码的作用。
machine-learning - paper
Attention Is All You Need
提出以自注意力为核心、无需循环结构的 Transformer 架构。
- book
Calculus Volume 1
覆盖函数、极限、导数与积分的一学期微积分开放教材。
- book
Calculus Volume 3
覆盖向量、多元函数、多重积分与二阶微分方程的开放教材。
- book
Deep Learning
系统介绍深度网络的数学基础、优化与建模方法。
- symbol
u · 单位方向向量
mathbf{u}
- symbol
v · 与特征值对应的非零特征向量
mathbf{v}
- symbol
x · 输入向量
\mathbf{x}
- symbol
y · 输出向量
mathbf{y}
- equation
一维波动方程
\frac{\partial^2 u}{\partial t^2}=c^2\frac{\partial^2 u}{\partial x^2}
physics · waves - learning-path
从线性模型到神经网络
从监督学习和线性分类进入损失、泛化、多层感知机与反向传播。
- equation
实形式傅里叶级数
f(x)\sim\frac{a_0}{2}+\sum_{n=1}^{\infty}\bigl(a_n\cos nx+b_n\sin nx\bigr)
mathematics · calculus - equation
导数的差商定义
f'(x)=\lim_{h\to0}\frac{f(x+h)-f(x)}{h}
mathematics · calculus - learning-path
数学物理方法基础
由微分方程、本征函数和傅里叶方法进入波动、边值问题与基础量子模型。
- learning-path
概率统计基础
从事件与条件概率进入随机变量、极限定理、估计和假设检验。
- equation
特征值方程
A\mathbf{v}=\lambda\mathbf{v}
mathematics · linear-algebra - learning-path
生成模型入门
比较潜变量、重建、对抗、流、能量、得分和扩散等生成建模路线。
- learning-path
线性代数基础
从向量和矩阵建立线性空间语言，进入方程组、特征结构与低秩分解。
- equation
线性变换
\mathbf{y}=A\mathbf{x}
mathematics · linear-algebra - equation
缩放点积注意力
\operatorname{Attention}(Q,K,V)=\operatorname{softmax}\!\left(\frac{QK^\mathsf{T}}{\sqrt{d_k}}\right)V
machine-learning · neural-networks