マルチヘッドアテンション

アテンションマスキング

アテンション行列の特定の位置に無限大に近い負の値を適用し、シーケンス要素間の不要な相互作用を防ぐ技術。

← 戻る