ポジショナルエンコーディング

Positional Interpolation

新しい位置埋め込みを外挿するのではなく、既存の位置埋め込みを線形補間することで、事前学習済みモデルをより長いシーケンスに適応させる技術。

← 戻る