提前终止（Early Stopping）这个方法一直在用 (16 fev 1995 ano – 16 out 2019 ano)
Descrição:
提前终止为何具有正则化效果: 目前为止，我们已经声明提前终止是一种正则化策略，但我们只通过展示验证集误差的学习曲线是一个 U 型曲线来支持这种说法。提前终止正则化模型的真正机制是什么呢？Bishop (1995a) 和 Sjöberg and Ljung(1995) 认为提前终止可以将优化过程的参数空间限制在初始参数值 θ0 的小邻域内。更具体地，想象用学习率 ϵ 进行 τ 个优化步骤（对应于 τ 个训练迭代）。我们可以将 ϵτ 作为有效容量的度量。假设梯度有界，限制迭代的次数和学习速率能够限制从θ0 到达的参数空间的大小，如图 7.4 所示。在这个意义上，ϵτ 的效果就好像是权重衰减系数的倒数。
Adicionado na linha do tempo:
Regularization
Data:
