効率的なトランスフォーマー

コンプレッシブTransformer

古い隠れメモリをより密なベクトルに圧縮して長期履歴を保持するTransformer-XLの拡張。この圧縮により、広範なコンテキスト情報の効率的な保存が可能です。

← 戻る