分散低減手法

Mini-batch

各反復で勾配推定値を計算するために使用される、完全なデータセットの中間サイズのサブセット。ミニバッチは、純粋なSGDと比較して分散を低減し、完全な勾配よりも効率的です。

← 戻る