アテンションマスク

バイナリマスク

0と1のみを含む行列で、1は保持する位置、0はマスクする位置を示し、通常はソフトマックスアテンションの前後で要素ごとの乗算によって適用されます。

← 戻る