站内索引 / 课程与概念
搜索知识库
输入中文术语、英文别名、符号或 LaTeX。结果覆盖课程概念、正文、方程、实验、学习路径和资源，可按学科、主题、类型与难度筛选。
14 项
- article
监督学习：从带标签样本到可检验的预测规则
建立监督学习的问题定义，区分样本、模型、损失、经验风险、验证选择与未知分布上的泛化误差。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
线性回归：从平方损失到最小二乘几何
从仿射预测、平方损失和矩阵表示推导最小二乘解、梯度、投影解释及其统计假设。
machine-learning · learning-theory · 难度 2 · 正文可读 - article
逻辑回归：从线性得分到二分类概率
由伯努利条件模型推导 sigmoid、对数几率、交叉熵、梯度与决策阈值，并说明线性可分和概率解释的边界。
machine-learning · learning-theory · 难度 3 · 正文可读 - article
损失函数：把预测目标写成可优化的风险
区分单样本损失、经验风险、正则化目标与任务指标，比较回归和分类常用损失的统计含义与优化性质。
machine-learning · learning-theory · 难度 2 · 正文可读 - concept
模型评估
按任务选择准确率、精确率、召回率、ROC 或回归误差，并避免训练集评估偏差。
machine-learning · learning-theory · 难度 2 · 详细大纲 - article
过拟合与泛化：训练集之外的误差从何而来
区分训练误差、验证估计、泛化间隙与分布偏移，并用容量、集中界和偏差方差分析解释模型选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - article
正则化：用结构偏好约束有限数据中的学习
从惩罚经验风险推导 L2 与 L1 正则化，解释尺度、贝叶斯联系、早停和数据增强，并规范超参数选择。
machine-learning · learning-theory · 难度 3 · 正文可读 - concept
经验风险最小化
用有限样本上的平均损失近似总体风险，并明确假设空间和优化误差。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
偏差—方差分解
把平方预测误差分解为系统偏差、样本波动与不可约噪声，解释模型复杂度权衡。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
支持向量机
通过最大化分类间隔学习决策超平面，并由支持向量决定最终边界。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
核方法
用正定核隐式计算高维特征空间内积，构造非线性分类和回归模型。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
决策树
递归选择特征划分样本空间，并用纯度、深度和剪枝控制拟合复杂度。
machine-learning · learning-theory · 难度 3 · 详细大纲 - concept
集成学习
组合多个基学习器降低方差或偏差，比较 bagging、随机森林和 boosting。
machine-learning · learning-theory · 难度 4 · 详细大纲 - concept
主成分分析
寻找数据协方差最大的正交方向，并用低秩投影压缩和去噪。
machine-learning · learning-theory · 难度 3 · 详细大纲