A02 · 第 5 章 · 课程规划页

AdaBoost、梯度提升与残差拟合

本章研究AdaBoost、梯度提升与残差拟合。内容依次处理AdaBoost 指数损失与样本权重、函数梯度、伪残差与逐步加法模型、树深、学习率和迭代轮数的联合控制。

所在 Part
第三编 Boosting 与综合复习
预计学习
40 分钟
建设状态
已规划,尚无正式正文

预备知识

  1. A02 · 第 4 随机森林与袋装集成

计划实验

本章未登记独立交互实验;定义、公式和例题仍按下列提纲规划。

LEARNING OBJECTIVES

完成本章后应能

  1. 01准确说明AdaBoost 指数损失与样本权重。
  2. 02完成函数梯度、伪残差与逐步加法模型所需的推导、证明或算法。
  3. 03使用计算、例题或反例检验树深、学习率和迭代轮数的联合控制。

PLANNED SECTIONS

计划章节结构

  1. 01

    AdaBoost 指数损失与样本权重

    界定AdaBoost 指数损失与样本权重,明确使用的条件、主要结论与可复核步骤。

  2. 02

    函数梯度、伪残差与逐步加法模型

    推导函数梯度、伪残差与逐步加法模型,明确使用的条件、主要结论与可复核步骤。

  3. 03

    树深、学习率和迭代轮数的联合控制

    检验树深、学习率和迭代轮数的联合控制,明确使用的条件、主要结论与可复核步骤。

计划定义

  1. AdaBoost 指数损失与样本权重:对象、记号与前提

    围绕AdaBoost 指数损失与样本权重列出主要对象、符号、前提与定义边界。

计划公式

  1. 函数梯度、伪残差与逐步加法模型:关系、判据与可复核步骤

    把函数梯度、伪残差与逐步加法模型整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。

计划例题

  1. 树深、学习率和迭代轮数的联合控制:案例、反例与核验

    围绕树深、学习率和迭代轮数的联合控制给出明确输入、前提或数据,逐步分析并用反例、误差、守恒量或边界条件复核。

计划练习

  1. AdaBoost、梯度提升与残差拟合:定义、关系与边界综合练习

    联结AdaBoost 指数损失与样本权重、函数梯度、伪残差与逐步加法模型与树深、学习率和迭代轮数的联合控制,分别检验定义辨析、主要步骤和适用边界。

本章概念落点

以下位置是术语、搜索和知识图谱引用本计划章节时使用的稳定链接。

  1. 集成学习组合多个基学习器降低方差或偏差,比较 bagging、随机森林和 boosting。

关键词

AdaBoost、梯度提升、残差拟合、第三编 Boosting 与综合复习、核方法、树模型与集成学习