クロスアテンション

トークンアライメント

クロスアテンションが、長さや構造が異なる2つのシーケンス間で、重要なトークンやセグメントを自動的に整列させることを学習するプロセス。対応関係が一対一ではない翻訳タスクにおいて重要。

← 戻る