アテンションマスク

三角因果マスク

対角線の上の要素がマスクされた三角行列構造で、系列タスクにおけるトランスフォーマーモデルで厳密な時間依存性を作成します。

← 戻る