人工知能の完全辞典
注意機構で使用される入力から導出された三つの行列:検索のためのクエリ、検索対象となるキー、抽出すべき情報を含むバリュー。
一層のニューラルネットワークを使用して適合性スコアを計算する注意機構の一種。特にクエリとキーの次元が異なる場合に効果的。