ポジショナルエンコーディング

Fixed Positional Encoding

正弦波関数などの固定された数式に基づき、埋め込みが事前に決定されており、学習中に変更されない位置エンコーディングのタイプ。

← 戻る