AI用語集
人工知能の完全辞典
グラフトランスフォーマー
トランスフォーマーのアテンションメカニズムとグラフ構造を組み合わせたニューラルアーキテクチャで、関係データにおけるグローバルおよびローカルの依存関係を捉えます。
グラフ上のアテンション
トランスフォーマーのアテンションを適応させたメカニズムで、グラフ内のノード間の相対的な重要性を構造的接続性を考慮して計算します。
グラフ用位置エンコーディング
グラフに適応させた位置エンコーディング技術で、距離、次数、パスなどの構造的情報を統合してノードの相対位置を表現します。
ノード上の自己アテンション
グラフの各ノードが他のすべてのノード(自分自身を含む)に対してアテンション重みを計算し、長距離の依存関係を捉える操作です。
グラフアテンションネットワーク (GAT)
マスクされたアテンションをGNNに導入した先駆的なアーキテクチャで、アテンション重みは直接隣接するノード間でのみ計算されます。
メッセージ伝播
GNNの基本的なプロセスで、ノードが近傍ノードと情報を交換・集約し、潜在表現を更新します。
マルチヘッドアテンションメカニズム
複数のアテンションヘッドが独立してアテンション重みを計算するアテンションの拡張で、グラフ内の異なるタイプの関係を捉えることができます。
エッジ埋め込み
グラフのエッジのベクトル表現で、その固有の特性と接続するノード間の関係を捉えます。
グラフ向けTransformer-XL
セグメント化されたキャッシュメカニズムによりグラフ内の長距離依存関係を処理する、Transformer-XLの適応版拡張。
GraphBERT
マスク型トランスフォーマーと自己教師あり学習戦略を使用する、グラフ専用に設計された事前学習アーキテクチャ。
Graphormer
中心性に基づく位置エンコーディングと構造化注意機構を使用する、グラフ向けの純粋なTransformerアーキテクチャ。
エッジ注意
重みがノードではなくエッジで計算される注意の変種で、関係の重要性を直接モデル化できる。
異種グラフトランスフォーマー
タイプごとの特定の注意メカニズムを使用して、異なる種類のノードとエッジを持つ異種グラフに適応されたグラフトランスフォーマーの拡張。
構造化注意
パス、サイクル、グラフパターンなどの構造情報を明示的に注意重みの計算に組み込む注意メカニズム。
ノード間クロスアテンション
クエリ、キー、値がノードの異なる表現から来る注意操作で、より複雑な相互作用を可能にする。