AI基础概念

基础概念

epoch：使用训练的全部数据对模型进行一次完整的训练，被成为“一代训练”。当一个完整的数据集通过了神经网络一次并且返回了一次，这个过程称为一次epoch。（也就是说，所有训练样本在神经网络中都 进行了一次正向传播 和一次反向传播），再通俗一点，一个Epoch就是将所有训练样本训练一次的过程。

batch：使用训练集中的一小部分样本对模型权重进行一次反向传播的参数更新，这一小部分样本被称为“一批数据”。

iteration：使用一个batch数据对模型进行一次参数更新的过程，被称为“一次训练”。

参考：
1. 深度学习 | 三个概念：Epoch, Batch, Iteration https://www.jianshu.com/p/22c50ded4cf7