エンコーダ-デコーダアーキテクチャ
因果マスキング
デコーダーにおいて、位置 i に対する予測が位置 1 から i までのみに依存することを保証するために、すべての未来の位置をマスクする手法です。これは、生成の自己回帰的な性質を尊重します。
← 戻るデコーダーにおいて、位置 i に対する予測が位置 1 から i までのみに依存することを保証するために、すべての未来の位置をマスクする手法です。これは、生成の自己回帰的な性質を尊重します。
← 戻る