効率的なトランスフォーマー

ユニバーサルTransformer

深さが固定ではなく適応停止メカニズムによって動的に決定される適応型アーキテクチャ。ユニバーサルTransformerは、適応型アテンションで共有重みの変換を反復的に適用します。

← 戻る