トランスフォーマーアーキテクチャ

位置ごとのフィードフォワード

シーケンスの各位置に同一かつ独立に適用されるニューラルネットワーク。注意メカニズム後の表現を非線形性を導入して変換する。

← 戻る