课程 · 资源记录

Stanford CS229 Course Materials

覆盖监督学习、广义线性模型、学习理论、优化与生成学习算法。

作者：Andrew Ng年份：暂无可核实信息出版信息：Stanford University元数据：存在暂无可核实字段链接核验于 2026-07-11

年份未在已核验来源中明确提供，登记为“暂无可核实信息”；未作推测性补写。

为什么重要

用于核对经典机器学习模型的目标函数、推导和适用前提。

阅读前提

教材中的引用位置

A00 · 第 1 章监督学习任务、样本与标签
支持的主张：Stanford CS229 官方课程材料按监督学习、判别式算法、学习理论与正则化组织推导，可用于核对经典定义与符号。
A00 · 第 2 章训练、验证、测试与数据泄漏
支持的主张：Stanford CS229 课程材料用于核对监督学习、模型选择、泛化与评估的基础口径。本文进一步把切分单位、时间可用性、预处理拟合范围和部署条件写成可审计协议，使验证与测试分数对应明确的未来问题。
A00 · 第 3 章损失函数、风险与评估
支持的主张：Stanford CS229 官方材料通过线性回归、逻辑回归、支持向量机和学习理论展示多类损失与目标。
A00 · 第 4 章分类、回归指标与基线
支持的主张：Stanford CS229 课程材料用于核对监督学习目标、分类与回归模型及泛化评估的基础口径。本文把指标进一步落实到固定单位、分母、阈值、基线和不确定度，使模型分数能够对应真实部署决策。
A00 · 第 5 章分布偏移、置信区间与不确定性
支持的主张：Stanford CS229 材料用于核对训练/测试误差、偏差—方差、概率预测和模型选择；《Deep Learning》用于核对数据分布、泛化、正则化及不确定预测的更广框架。本章据此区分抽样误差、模型不确定性和分布偏移，且不把源分布上的验证分数外推为目标分布保证。
A00 · 第 6 章机器学习问题与评估综合复习
支持的主张：Stanford CS229 材料用于核对监督、无监督学习的任务形式、损失、基线及训练—验证—测试流程；《Deep Learning》用于核对表示学习、优化与生成建模的扩展框架。本章借此检查“数据、目标、评价和部署分布”是否共同定义清楚，而不按算法名称替问题分类。
A01 · 第 1 章线性回归、最小二乘与正规方程
支持的主张：Stanford CS229 官方讲义从线性回归、正规方程和概率解释进入监督学习模型。
A01 · 第 2 章 Logistic 回归与概率分类
支持的主张：Stanford CS229 官方监督学习讲义包含逻辑回归、广义线性模型与判别式算法的推导。
A01 · 第 3 章过拟合、泛化与模型选择
支持的主张：Stanford CS229 官方学习理论与模型选择材料覆盖经验风险、泛化界、偏差方差和正则化。
A01 · 第 4 章正则化、偏差与方差
支持的主张：Stanford CS229 官方学习理论与正则化材料覆盖模型选择、L1/L2 思想及线性模型应用。
A01 · 第 5 章经验风险、容量与一致收敛
支持的主张：Stanford CS229 材料用于核对经验风险最小化、偏差—方差、模型容量和训练/验证划分的课程级推导；《Deep Learning》用于核对容量、正则化、泛化误差与优化误差的区分。本章据此说明训练损失很低只是经验拟合事实，不能单独推出总体风险很低。
A01 · 第 6 章线性模型与统计学习综合复习
支持的主张：Stanford CS229 材料用于核对线性回归、logistic 回归、最大似然、正则化与支持向量机之间的公式关系；《Deep Learning》用于核对损失、梯度优化和容量控制的统一框架。本章的线性模型推导以前者为直接来源，后者用于比较这些结构如何进入更深模型而不改变统计假设。
A02 · 第 1 章特征映射、正定核与再生核空间
支持的主张：Stanford CS229 官方材料可用于核对特征映射、有效核、核技巧和支持向量展开。再生核空间的完整构造与表示定理证明还需遵守其函数空间和正则条件。
A02 · 第 2 章最大间隔与支持向量机
支持的主张：Stanford CS229 官方材料可用于核对最大间隔、软间隔、Lagrange 对偶与核 SVM 推导。实际求解器的目标归一化、容差和多分类封装仍应以所用实现的明确契约为准。
A02 · 第 3 章决策树、划分准则与剪枝
支持的主张：Stanford CS229 材料用于核对树模型的递归划分、纯度/误差准则、剪枝和集成学习的基本评价口径；《Deep Learning》用于核对经验风险、过拟合、正则化与验证集选择这些跨模型原则。本章的树结构算法以课程材料为直接依据，深度学习教材只支持泛化与模型选择边界，不被当作树算法原始来源。
A02 · 第 4 章随机森林与袋装集成
支持的主张：Stanford CS229 材料用于核对 bootstrap 抽样、随机特征子集和树集成的偏差—方差作用；《Deep Learning》用于核对集成、正则化和独立验证的通用原则。本章关于随机森林构造的直接依据来自课程材料，深度学习教材仅支持为什么平均多个不完全相关模型可降低方差的比较框架。
A02 · 第 5 章 AdaBoost、梯度提升与残差拟合
支持的主张：Stanford CS229 课程材料用于核对加法分类、指数损失、函数优化与监督学习风险的基础口径。提升实现可能使用一阶、二阶或叶级正则化细节，本文保留共同结构，并要求所有超参数和概率结论通过独立验证协议确定。
A02 · 第 6 章核方法、树模型与集成学习综合复习
支持的主张：Stanford CS229 课程材料用于核对核方法、最大间隔、决策树与提升的监督学习基础。综合选择还必须以具体实现测量训练、内存和推理成本，并在无泄漏验证上审查校准、解释稳定性和分组边界。
A03 · 第 1 章聚类目标、K 均值与密度方法
支持的主张：Stanford CS229 官方材料可用于核对 K 均值目标、交替更新和无监督学习基础。层次与密度方法的参数选择仍应结合具体距离、数据规模和领域验证。
A03 · 第 2 章主成分分析与流形降维
支持的主张：Stanford CS229 官方材料可用于核对 PCA 的协方差、特征分解与低维表示。非线性流形嵌入的具体保真目标和样本外能力应以所用算法定义与实现契约为准。
A03 · 第 3 章贝叶斯网络与 Markov 随机场
支持的主张：Stanford CS229 材料用于核对 Bayesian network、Markov random field、条件独立与因子分解的基本形式；《Deep Learning》的结构化概率模型章节用于核对配分函数、潜变量和图模型推断与学习的统一记号。两者支持本章有向与无向分解的比较，但不把图的画法本身当作因果方向证据。
A03 · 第 4 章变量消元、消息传递与精确推断
支持的主张：Stanford CS229 材料用于核对图模型中的条件独立、变量消元和消息传递计算；《Deep Learning》的结构化概率模型内容用于核对因子、配分函数、边缘化及潜变量表示。本章的复杂度分析以消元顺序和中间因子宽度为对象，不把“精确”误解为浮点实现没有舍入误差。
A03 · 第 5 章 EM 算法与变分推断
支持的主张：Stanford CS229 课程材料用于核对潜变量模型、混合高斯与 EM 的基础推导。变分部分以 ELBO、均值场和坐标上升的共同结构为主，任何具体模型仍需单独推导因子期望、检查近似族并验证后验质量。
A03 · 第 6 章无监督学习与概率图模型综合复习
支持的主张：Stanford CS229 课程材料用于核对聚类、降维、图模型和潜变量学习的基础口径。综合选择还需把目标、等价性、推断成本与外部验证写入协议，避免把优化输出直接当作唯一真实结构或因果实体。
A04 · 第 3 章计算图、链式法则与局部导数
支持的主张：《Deep Learning》用于核对计算图、链式法则、反向模式和参数共享下的梯度累积；Stanford CS229 材料用于核对线性/逻辑模型中的向量化梯度与数值梯度检查。本章的节点级反传来自前者的通用框架，后者提供可手算的小模型交叉核验。
A04 · 第 5 章参数初始化与梯度传播
支持的主张：《Deep Learning》用于核对权重初始化、前向方差、梯度消失/爆炸和深层计算图中的传播机制；Stanford CS229 材料用于核对随机优化、特征尺度与验证曲线的基础诊断。本章的方差递推是模型假设下的近似分析，实际初始化仍以激活统计和梯度范数实测复核。
A04 · 第 6 章神经网络与反向传播综合复习
支持的主张：《Deep Learning》用于核对多层网络、计算图、反向传播、初始化与正则化的完整推导；Stanford CS229 材料用于核对梯度下降、线性/逻辑模型和数值梯度检查。复习中的链式法则以前者为主，后者提供可手算基线和训练—验证协议的独立检查。
A05 · 第 1 章随机梯度、动量与自适应方法
支持的主张：Stanford CS229 的随机梯度优化框架支撑本章的共同起点：小批量梯度是经验风险全梯度的随机估计，其方差、批量大小与步长共同影响更新稳定性。动量和逐坐标缩放是在这个估计上增加状态，因而比较优化器时必须固定目标、数据顺序和预算，并连同最终验证误差检查，而不能只比较前几步损失下降速度。
A05 · 第 2 章学习率调度与二阶近似
支持的主张：Stanford CS229 关于梯度下降和 Newton 方法的推导，支撑本章比较一阶与二阶更新：Hessian 描述目标的局部曲率，精确 Newton 步在可逆且局部模型可信时求解二次近似，而阻尼用于限制曲率失真带来的过大步长。由此，学习率调度和近似二阶法都必须结合下降检验与计算预算评价。
A05 · 第 3 章归一化方法与尺度控制
支持的主张：《Deep Learning》用于核对特征尺度、内部激活分布、参数化和梯度优化的基础关系；Stanford CS229 材料用于核对输入标准化、训练/测试统计隔离和线性模型中的尺度效应。本章据此强调训练态与推理态统计必须分开，归一化带来的优化改善也不等同于概率校准。
A05 · 第 4 章正则化、数据增强与早停
支持的主张：《Deep Learning》用于核对权重惩罚、dropout、早停和数据增强作为容量控制手段的机制；Stanford CS229 材料用于核对 L1/L2 正则、训练—验证选择和偏差—方差分析。本章据此区分目标函数中的显式惩罚与改变训练分布的增强操作，二者的超参数都只在验证数据上选择。
A05 · 第 5 章混合精度、分布式训练与检查点
支持的主张：Stanford CS229 对经验风险与梯度优化的推导，为本章验证混合精度和分布式实现提供参照：数据并行聚合后的梯度应对应同一批样本损失的梯度，降低精度后也应在预设容差内保持目标值和更新方向。这个数学等价条件用于检测溢出、缩放错误或不同步，而加速倍数仍须由实际硬件测量。
A05 · 第 6 章调试、复现实验与工程方法综合复习
支持的主张：Stanford CS229 材料在本章提供训练工程必须守住的数学基线：目标函数、梯度更新、正则化和独立验证集的定义决定一次运行应记录哪些量。工程监控中的损失、梯度范数和验证误差因此可以对应具体学习问题；若恢复训练后这些量偏离同一基线，就能定位为状态、数据或实现差异，而非笼统归因于“随机波动”。
A07 · 第 1 章循环网络、门控单元与状态传播
支持的主张：Stanford CS229 的监督学习与反向传播材料支撑本章把循环网络训练写成明确的经验风险问题：序列在时间上展开后，共享参数接收来自各步损失的梯度累积，验证集仍须与训练序列严格分离。这个基线用于判断门控结构是否改善长依赖优化，而不能把训练损失下降直接解释为模型已学到可迁移的时序机制。
A10 · 第 1 章 Markov 决策过程与 Bellman 方程
支持的主张：Sutton 与 Barto 第二版用于核对 MDP 五元组、回报、价值函数以及 Bellman 期望/最优方程；Stanford CS229 材料用于核对概率模型、函数逼近和策略评价所需的统计学习背景。本章据此把 Markov 性明确限定为给定状态表示下的条件独立，而不是对真实环境的无条件断言。
A10 · 第 2 章动态规划、Monte Carlo 与时序差分
支持的主张：Sutton 与 Barto 第二版用于核对 Bellman 期望方程、策略评估、TD 误差和自举更新的标准定义与收敛条件；Stanford CS229 材料用于核对函数逼近、随机梯度和有限样本评价的统计学习接口。本章的 TD 递推直接遵循前者，后者只用于解释近似器训练与验证，不能替代强化学习中的采样分布条件。
A10 · 第 3 章 Q-learning、探索与函数逼近
支持的主张：Sutton 与 Barto 第二版用于核对 Q-learning 的时序差分目标、离策略更新、探索条件和表格情形收敛边界；Stanford CS229 材料用于核对回归式函数逼近与随机梯度训练。本章因此把表格算法的经典保证与神经近似下的经验稳定性严格分开。
A10 · 第 4 章策略梯度、actor–critic 与优势估计
支持的主张：Sutton 与 Barto 第二版用于核对策略梯度定理、REINFORCE、baseline 与 actor–critic 更新；Stanford CS229 材料用于核对似然梯度、随机优化和验证协议。本章的无偏估计与方差降低结论按前者条件陈述，后者只支持优化和统计评价部分。
A10 · 第 5 章基于模型、离线与多智能体强化学习
支持的主张：Sutton 与 Barto第二版用于核对基于模型的规划、离策略学习、重要性采样和函数逼近的基础定义；Stanford CS229 材料用于核对监督拟合、分布偏移与验证误差的统计接口。本章据此解释离线数据支持之外的动作值为何可能失真，并未从经典在线 RL 结论推导无条件的离线安全保证。
A10 · 第 6 章稳定性、评估与强化学习综合复习
支持的主张：Sutton 与 Barto 第二版用于核对从 MDP、动态规划、TD、控制到策略梯度的统一记号和算法条件；Stanford CS229 材料用于核对函数逼近、优化、数据划分与误差评价。本章的强化学习主线以前者为依据，后者只补充近似学习器的统计与工程检查。
M11 · 第 1 章优化模型、可行域与最优性
支持的主张：Stanford CS229 课程材料展示机器学习中从数据、模型和损失形成优化目标的典型方式，可用于比较经验风险模型中的变量、参数和正则项。课程例子不能替代具体应用对单位、安全约束和数据来源的说明。
M11 · 第 3 章一阶优化与梯度下降
支持的主张：Stanford CS229 官方课程材料给出线性模型、梯度法和机器学习优化的课程级推导，可用于核对目标函数、批量更新和学习率符号。
M11 · 第 6 章最优化与信息论综合复习
支持的主张：Stanford CS229 课程材料提供机器学习目标、梯度法与正则化的应用语境。三项资源分别承担优化条件、信息定义与一阶算法背景；本章各例中的分布归一化、均值、KKT 残差和信息量仍应按给定数字独立复算。

官方入口

官方页面https://cs229.stanford.edu/materials.html-full