深度学习相关知识
深度學(xué)習(xí)中經(jīng)常看到epoch、 iteration和batchsize,這三個(gè)的區(qū)別:(1)batchsize:批大小。在深度學(xué)習(xí)中,一般采用SGD訓(xùn)練,即每次訓(xùn)練在訓(xùn)練集中取batchsize個(gè)樣本訓(xùn)練;
(2)iteration:1個(gè)iteration等于使用batchsize個(gè)樣本訓(xùn)練一次;
(3)epoch:1個(gè)epoch等于使用訓(xùn)練集中的全部樣本訓(xùn)練一次;舉個(gè)例子,訓(xùn)練集有1000個(gè)樣本,batchsize=10,那么:
訓(xùn)練完整個(gè)樣本集需要:
100次iteration,1次epoch。
總結(jié)