AI用語集
人工知能の完全辞典
タスクへのハードアテンション（HAT）
学習されたバイナリアテンションマスクを使用して各タスク専用のサブネットワークを選択する技術で、異なるシーケンシャルタスク間のパラメータの完全な分離を保証します。
SupSup
共有ニューラルネットワークの上に重みマスクを重ねる継続的学習手法で、事前に学習した重みを変更せずに新しいタスクを追加できます。
ネットワークゲーティング
現在のタスクに応じてニューラルネットワークの異なる部分の活性化を制御するメカニズムで、学習可能なゲートを使用して各タスク固有のパラメータを分離します。
タスク固有サブネットワーク
メインネットワーク内で特定または作成された専門化されたサブネットワークで、各サブネットワークは特定のタスクに最適化されながら、他のサブネットワークとは機能的に独立しています。
バイナリマスク学習
特定のタスクに対してネットワークのどのパラメータがアクティブであるかを決定するバイナリマスクを学習するプロセスで、異なるタスクのパラメータセット間の厳密な分離を保証します。
漸進的ネットワーク拡張
新しいタスクごとに新しいユニットまたは層を追加することでネットワークが徐々に拡張する戦略で、以前の知識を保持するために既存のパラメータを変更せずに維持します。
継続的学習のためのニューラルネットワークプルーニング
既存のネットワーク内のパラメータを解放するための選択的ニューラルネットワークプルーニングの適用で、以前のタスクのパフォーマンスを乱すことなく新しいタスクの学習のための空間を作成します。
分離されたパラメータ割り当て
新しいタスクの学習時に共有パラメータが変更されないように、ニューラルパラメータを特定のタスクに割り当てる体系的なプロセスです。
サブネットワーク発見
より広範なアーキテクチャ内で最適なサブネットワークを自動的に特定する技術であり、それぞれが特定のタスクに特化しつつ、システム全体の機能的完全性を維持する。
マスクベース継続学習
パラメトリックマスクを使用してネットワークの重み空間を異なるタスクに専用の領域に分割する継続学習のパラダイムであり、パラメータの複製の必要性を排除する。
固定バックボーンネットワーク
初期学習後にネットワークの基本層が凍結され、新しいタスクのために分類ヘッドや特殊化されたサブネットワークのみが追加されるアーキテクチャ。
適応的パラメータ選択
新しいタスクの学習時に使用または変更するパラメータを、その関連性と使用履歴に基づいて動的に選択する知的メカニズム。
パラメータ分離による継続学習
タスク間でパラメータを厳密に分離する原則に基づいた継続学習の理論的枠組みで、正規化やリハーサルに基づくアプローチと対照をなす。
タスク認識パラメータルーティング
タスクのアイデンティティに基づいて特定のパラメータを通じて情報を誘導する知的ルーティングシステムであり、機能的分離を確保しつつリソースの使用を最適化する。