站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
- article
MIT 6.041SC Probabilistic Systems Analysis and Applied Probability
介绍概率模型、随机变量、随机过程和统计推断基础的本科课程。
- article
损失函数：把预测目标写成可优化的风险
区分单样本损失、经验风险、正则化目标与任务指标，比较回归和分类常用损失的统计含义与优化性质。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
期望、方差与协方差：分布的中心、尺度和共同变化
从分布定义期望和二阶矩，推导方差与协方差的运算规律，并区分独立、零协方差、相关和因果关系。
mathematics · probability · 难度 2 · 正文可读 - article
线性回归：从平方损失到最小二乘几何
从仿射预测、平方损失和矩阵表示推导最小二乘解、梯度、投影解释及其统计假设。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
随机变量与概率分布：从随机结果到可计算的数值规律
把随机变量定义为样本空间上的可测函数，统一理解分布函数、概率质量函数、概率密度、支持集与变量变换。
mathematics · probability · 难度 2 · 正文可读 - article
过拟合与泛化：训练集之外的误差从何而来
区分训练误差、验证估计、泛化间隙与分布偏移，并用容量、集中界和偏差方差分析解释模型选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - concept
Monte Carlo 方法
通过随机采样近似期望和积分，并用方差与有效样本量评价误差。
mathematics · probability · 难度 4 · 详细大纲 - concept
主成分分析
寻找数据协方差最大的正交方向，并用低秩投影压缩和去噪。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
偏差—方差分解
把平方预测误差分解为系统偏差、样本波动与不可约噪声，解释模型复杂度权衡。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
参数初始化与梯度流
分析权重尺度如何影响前向方差和反向梯度，理解 Xavier 与 He 初始化。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
大数定律
说明独立样本均值在适当条件下趋近总体期望，并区分弱收敛与强收敛。
mathematics · probability · 难度 3 · 详细大纲 - concept
批归一化
利用小批量统计量标准化中间激活，并区分训练与推理阶段的统计处理。
machine-learning · neural-networks · 难度 4 · 详细大纲 - concept
抽样分布
研究统计量在重复抽样中的分布，为标准误、区间估计和检验建立基础。
mathematics · probability · 难度 3 · 详细大纲 - concept
熵与互信息
量化随机变量的不确定性以及两个变量共享的信息，连接编码、推断和学习。
mathematics · probability · 难度 4 · 详细大纲 - concept
经验风险最小化
用有限样本上的平均损失近似总体风险，并明确假设空间和优化误差。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
统计估计
区分点估计和区间估计，并用偏差、方差、一致性和效率评价估计量。
mathematics · probability · 难度 3 · 详细大纲 - concept
随机梯度下降
用随机样本或小批量近似完整梯度，权衡计算成本、方差与泛化行为。
mathematics · optimization · 难度 3 · 详细大纲 - book
Introductory Statistics 2e
以代数为先修，系统介绍概率、随机变量、分布与统计推断。
- equation
方差
\operatorname{Var}(X)=\mathbb{E}[(X-\mathbb{E}[X])^2]
mathematics · probability - learning-path
机器学习数学基础
把线性代数、多变量微分、概率矩和优化连接为机器学习的统一计算语言。
- learning-path
概率统计基础
从事件与条件概率进入随机变量、极限定理、估计和假设检验。
- equation
离散随机变量的期望
\mathbb{E}[X]=\sum_x x\,p_X(x)
mathematics · probability - concept
集成学习
组合多个基学习器降低方差或偏差，比较 bagging、随机森林和 boosting。
machine-learning · learning-theory · 难度 4 · 详细大纲