分散低減手法

SARAH (StochAstic Recursive gAdient algoritHm)

各反復で勾配推定量を更新するために再帰的なアプローチを使用する分散低減アルゴリズム。SARAHは、SVRGと加速勾配法のアイデアを組み合わせており、収束が保証されている。

← 戻る