ポジショナルエンコーディング

双方向位置エンコーディング

左から右と右から左の方向に対して別々のエンコーディングを使用する技術で、BERTモデルのように双方向で同時に文脈情報をキャプチャすることを可能にします。

← 戻る