站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
- article
反向传播：链式法则如何训练神经网络
沿计算图拆解前向值、局部导数与总梯度，理解反向模式自动微分为何能高效训练共享参数的神经网络。
machine-learning · neural-networks · 难度 4 · 正文可读 - article
向量：从箭头到高维空间
从位移箭头、坐标与线性组合出发，理解向量如何成为描述方向、状态和高维数据的统一语言。
mathematics · linear-algebra · 难度 1 · 正文可读 - article
导数与微分：从变化率到局部线性化
由割线斜率的极限定义导数，推导乘积与链式法则，说明微分作为最佳局部线性近似的含义，并连接中值定理与误差估计。
mathematics · calculus · 难度 2 · 正文可读 - article
感知机与多层感知机：从线性边界到可学习的非线性
从线性阈值分类器、误分类更新与可分性出发，推导多层感知机的前向传播、张量形状、参数数量和表达能力边界。
machine-learning · neural-networks · 难度 3 · 正文可读 - article
损失函数：把预测目标写成可优化的风险
区分单样本损失、经验风险、正则化目标与任务指标，比较回归和分类常用损失的统计含义与优化性质。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
期望、方差与协方差：分布的中心、尺度和共同变化
从分布定义期望和二阶矩，推导方差与协方差的运算规律，并区分独立、零协方差、相关和因果关系。
mathematics · probability · 难度 2 · 正文可读 - article
注意力机制：从加权平均到自注意力
从数据相关的加权平均推导缩放点积注意力，明确 query、key、value 的形状、softmax 归一化与解释边界。
machine-learning · neural-networks · 难度 4 · 正文可读 - article
特征值与特征向量：寻找线性变换的不变方向
从方向不变条件推导特征方程，区分代数与几何重数，判断对角化，并连接矩阵幂、稳定性和对称矩阵。
mathematics · linear-algebra · 难度 3 · 正文可读 - article
线性变换：把矩阵看作空间运动
把矩阵理解为保持线性组合的空间映射，并用基向量、行列式与奇异性解释二维变换的几何行为。
mathematics · linear-algebra · 难度 2 · 正文可读 - article
逻辑回归：从线性得分到二分类概率
由伯努利条件模型推导 sigmoid、对数几率、交叉熵、梯度与决策阈值，并说明线性可分和概率解释的边界。
machine-learning · learning-theory · 难度 3 · 正文可读 - symbol
K · 注意力键矩阵
K
- concept
Markov 链
用状态转移矩阵描述无记忆随机演化，并分析平稳分布和长期行为。
mathematics · probability · 难度 4 · 详细大纲 - concept
Lagrange 力学
以作用量驻值推导广义坐标方程，把约束和对称性纳入力学描述。
physics · classical-mechanics · 难度 4 · 详细大纲 - concept
Newton 运动定律
把合力与动量变化联系起来，并明确惯性系、质量和作用反作用的适用条件。
physics · classical-mechanics · 难度 2 · 详细大纲 - concept
二分类判别
将输入映射为两个类别的概率或得分，并用决策阈值和混淆矩阵评价结果。
machine-learning · generative-models · 难度 2 · 详细大纲 - concept
偏微分方程
用多个自变量的偏导描述场的空间与时间变化，并区分椭圆、抛物和双曲类型。
mathematics · calculus · 难度 4 · 详细大纲 - concept
功与能量守恒
由力沿路径的积分定义功，并用势能和动能追踪保守系统的状态变化。
physics · classical-mechanics · 难度 3 · 详细大纲 - concept
卷积神经网络
用局部连接和权重共享提取平移结构特征，并逐层扩大感受野。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
参数初始化与梯度流
分析权重尺度如何影响前向方差和反向梯度，理解 Xavier 与 He 初始化。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
图神经网络
通过邻域消息传递更新节点表示，并用置换不变聚合处理非欧氏结构。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
图算法
在节点和边结构上执行遍历、最短路和拓扑排序，分析可达性与依赖关系。
computer-science · algorithms · 难度 3 · 详细大纲 - concept
多模态学习
对齐文本、图像、音频等不同表示空间，并通过共享或交叉注意力融合信息。
machine-learning · neural-networks · 难度 5 · 详细大纲 - concept
奇异值分解
把任意矩阵分解为两次正交变换和一次轴向缩放，揭示秩与主方向。
mathematics · linear-algebra · 难度 4 · 详细大纲 - concept
常微分方程数值解
用 Euler 和 Runge–Kutta 方法推进初值问题，并分析稳定性、阶数和步长。
computer-science · scientific-computing · 难度 4 · 详细大纲 - concept
序列建模
根据顺序依赖分解联合概率或条件预测，处理可变长度输入与因果掩码。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
张成、线性无关与基
通过张成集和线性无关选择最小坐标系统，理解维数为何不依赖具体基。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
循环网络、LSTM 与 GRU
用递归隐藏状态处理序列，并以门控机制缓解长期依赖中的梯度衰减。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
扩散模型
学习逐步去除噪声的逆过程，从简单噪声分布生成高维数据样本。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
批归一化
利用小批量统计量标准化中间激活，并区分训练与推理阶段的统计处理。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
支持向量机
通过最大化分类间隔学习决策超平面，并由支持向量决定最终边界。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
曲线积分
沿参数曲线累积标量或向量场贡献，并解释功与环流的数学表达。
mathematics · calculus · 难度 3 · 详细大纲 - concept
最大似然估计
把观测数据在模型参数下的概率视为目标函数，并求使其最大的参数。
mathematics · probability · 难度 3 · 详细大纲 - concept
条件概率与独立性
在已知事件发生的条件下更新样本空间，并区分独立、互斥和条件独立。
mathematics · probability · 难度 2 · 详细大纲 - concept
核方法
用正定核隐式计算高维特征空间内积，构造非线性分类和回归模型。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
正定矩阵
通过二次型和特征值判断矩阵是否在所有非零方向产生正曲率。
mathematics · linear-algebra · 难度 3 · 详细大纲 - concept
残差连接
让层学习相对恒等映射的残差，改善深层网络的信息与梯度传播。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
物理信息神经网络
把微分方程残差、边界条件和数据误差共同写入损失函数，近似场的解。
interdisciplinary · scientific-machine-learning · 难度 5 · 详细大纲 - concept
生成对抗网络
让生成器与判别器进行极小极大博弈，以隐式方式逼近数据分布。
machine-learning · generative-models · 难度 5 · 详细大纲 - concept
生成模型
学习数据联合分布或生成过程，使模型能够采样、补全、重建并估计不确定性。
machine-learning · generative-models · 难度 4 · 详细大纲 - concept
目标函数与可行域
把决策变量、目标函数和约束写成明确优化问题，并区分局部与全局最优。
mathematics · optimization · 难度 2 · 详细大纲 - concept
矩阵乘法
从行列内积和映射复合理解矩阵乘法，明确不可交换性与维度匹配条件。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
矩阵的秩
用主元、列空间和像空间度量矩阵保留的独立方向数量。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
神经网络优化
把反向传播梯度交给小批量、动量和自适应优化器，并监控训练稳定性。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
科学机器学习
把可解释科学模型、观测数据和学习算法组合，用于反演、预测与加速计算。
interdisciplinary · scientific-machine-learning · 难度 4 · 详细大纲 - concept
经验风险最小化
用有限样本上的平均损失近似总体风险，并明确假设空间和优化误差。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
统计估计
区分点估计和区间估计，并用偏差、方差、一致性和效率评价估计量。
mathematics · probability · 难度 3 · 详细大纲 - concept
联合分布与条件分布
描述多个随机变量的共同变化，并由边缘化和条件化提取局部规律。
mathematics · probability · 难度 3 · 详细大纲 - concept
自动微分
把程序拆为基本运算图，通过前向或反向累积精确应用链式法则。
computer-science · algorithms · 难度 4 · 详细大纲 - concept
自注意力
让同一序列产生 query、key、value，使每个位置按内容动态聚合其他位置。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
自适应优化器
按参数历史梯度尺度调节有效学习率，比较 AdaGrad、RMSProp 和 Adam 的假设。
mathematics · optimization · 难度 4 · 详细大纲 - concept
计算图
把复合函数表示为基本运算节点和依赖边，为局部导数与反向累积建立结构。
machine-learning · neural-networks · 难度 3 · 详细大纲 - concept
运动学
用位置、速度和加速度描述质点运动，不预设产生运动的具体相互作用。
physics · classical-mechanics · 难度 2 · 详细大纲 - concept
链式法则
把复合函数的局部变化拆为各层导数的乘积，并推广到多变量映射。
mathematics · calculus · 难度 2 · 详细大纲 - concept
随机梯度下降
用随机样本或小批量近似完整梯度，权衡计算成本、方差与泛化行为。
mathematics · optimization · 难度 3 · 详细大纲 - concept
零空间与解空间
求解映射到零向量的全部输入，并用秩-零化度关系连接自由度。
mathematics · linear-algebra · 难度 2 · 详细大纲 - concept
高斯消元
通过初等行变换把线性方程组化为阶梯形，并稳定地回代求解。
mathematics · linear-algebra · 难度 2 · 详细大纲 - experiment
反向传播计算图
沿计算图分步检查局部导数与累积梯度。
machine-learning - experiment
注意力权重矩阵
比较 token 间分数、softmax 权重和因果掩码的作用。
machine-learning - experiment
神经网络决策边界
在 Worker 中训练小型网络并观察分类边界。
machine-learning - book
Deep Learning
系统介绍深度网络的数学基础、优化与建模方法。
- symbol
Q · 注意力查询矩阵
Q
- symbol
V · 注意力值矩阵
V
- learning-path
从感知机到 Transformer
沿梯度流、卷积、循环、注意力和残差结构理解现代神经网络。
- learning-path
从线性模型到神经网络
从监督学习和线性分类进入损失、泛化、多层感知机与反向传播。
- equation
梯度下降更新
\boldsymbol{\theta}_{k+1}=\boldsymbol{\theta}_k-\eta\nabla L(\boldsymbol{\theta}_k)
mathematics · optimization - learning-path
概率统计基础
从事件与条件概率进入随机变量、极限定理、估计和假设检验。
- learning-path
生成模型入门
比较潜变量、重建、对抗、流、能量、得分和扩散等生成建模路线。
- learning-path
线性代数基础
从向量和矩阵建立线性空间语言，进入方程组、特征结构与低秩分解。
- equation
缩放点积注意力
\operatorname{Attention}(Q,K,V)=\operatorname{softmax}\!\left(\frac{QK^\mathsf{T}}{\sqrt{d_k}}\right)V
machine-learning · neural-networks