分散低減手法

Gradient snapshot

SVRGなどの分散低減アルゴリズムで定期的に保存される完全な勾配の計算。スナップショットは、完全な更新の間に確率的勾配推定値を修正するための参照として機能します。

← 戻る