位置エンコーディング

Transformer位置エンコーディング

元のTransformerアーキテクチャの重要なコンポーネントで、再帰的メカニズムなしにモデルがトークンの順序を使用できるようにする正弦波エンコーディングを使用します。

← 戻る