One Forth

CONCEPT OUTLINE / neural-network-optimization

神经网络优化

把反向传播梯度交给小批量、动量和自适应优化器，并监控训练稳定性。

约 105 分钟正文计划中难度 4/5

章节大纲

  1. 01

    神经网络优化要解决的核心问题与适用边界

  2. 02

    神经网络优化的基本对象、符号和严格定义

  3. 03

    从「反向传播」推导「神经网络优化」所需的关键步骤

  4. 04

    神经网络优化的典型计算、反例与常见误区

知识关系

motivatesbatch-normalization