A01 / undergraduate

线性模型与统计学习

线性模型与统计学习围绕第一编 回归与分类、第二编 复杂度与泛化、第三编 统计学习理论与综合复习建立连续章节顺序。

结构
3 Parts · 6
适合读者
适合已具备基础代数与函数知识、希望完成本科层次系统学习的读者。
正文状态
4 章已有正文,2 章已规划
开始本册

BEFORE READING

先修与记号

本册对象

从最小二乘和广义线性模型进入正则化、泛化与统计学习理论。

先修教材

符号约定

  • 本册在首次使用时定义线性模型与统计学习专用符号,并区分标量、向量、算子与单位。
  • 同一符号出现多种约定时明确命名空间、假设和适用章节。

COMPLETE CONTENTS

完整目录

PART 01

第一编 回归与分类

第一编 回归与分类组织线性回归、最小二乘与正规方程、Logistic 回归与概率分类,形成连续的学习单元。

  1. 01

    线性回归、最小二乘与正规方程

    本章研究线性回归、最小二乘与正规方程。内容依次处理线性模型、设计矩阵与残差、最小二乘正规方程与投影解释、可识别性、共线性与误差诊断。

    已有正文
  2. 02

    Logistic 回归与概率分类

    本章研究Logistic 回归与概率分类。内容依次处理对数几率、Sigmoid 与概率分类、交叉熵似然与梯度计算、决策阈值、校准与线性边界限制。

    已有正文
PART 02

第二编 复杂度与泛化

第二编 复杂度与泛化组织过拟合、泛化与模型选择、正则化、偏差与方差,形成连续的学习单元。

  1. 03

    过拟合、泛化与模型选择

    本章研究过拟合、泛化与模型选择。内容依次处理训练误差、泛化误差与数据划分、模型容量、偏差方差与验证曲线、数据泄漏、分布偏移与选择偏差。

    已有正文
  2. 04

    正则化、偏差与方差

    本章研究正则化、偏差与方差。内容依次处理参数惩罚与约束优化的对应、L1、L2 正则化与解的几何、正则强度选择、偏差方差与失效情形。

    已有正文
PART 03

第三编 统计学习理论与综合复习

第三编 统计学习理论与综合复习组织经验风险、容量与一致收敛、线性模型与统计学习综合复习,形成连续的学习单元。

  1. 05

    经验风险、容量与一致收敛

    本章研究经验风险、容量与一致收敛。内容依次处理经验风险最小化与假设空间、增长函数、VC 维与复杂度控制、一致收敛、泛化界与样本复杂度。

    计划章节
  2. 06

    线性模型与统计学习综合复习

    本章研究线性模型与统计学习综合复习。内容依次处理线性与 Logistic 模型的统一矩阵表述、正则路径、交叉验证与超参数选择、残差、校准和泛化误差的联合诊断。

    计划章节

综合练习计划

  • 每章安排定义辨析、推导计算和结果核验练习。
  • 本册末章安排跨 Part 综合题,并保留可复算的解题检查点。

参考资料计划

  • TODO:为《线性模型与统计学习》逐项核验权威教材、课程页面或原始论文后登记资源 ID。

修订状态

课程 Schema v1。目录与章节位置已登记;参考资料需逐项核验后进入正式正文。

相关教材