AI用語集
人工知能の完全辞典
マルチタスクトレースLASSO損失
LASSO正則化をマルチタスク文脈に拡張したもので、重み行列のL2,1ノルムを罰則し、すべてのタスクに共通する特徴量の選択を促進します。
ブロックL2,1ノルム
正則化ノルムであり、重み行列の各行（特徴量）に対してL2ノルムを計算し、次に全ての結果に対してL1ノルムを計算するもので、共有特徴量レベルでのスパース性を促進します。
マルチタスクカーネル正則化
カーネル法をマルチタスクフレームワークに拡張するアプローチで、タスク間の共分散カーネルを定義することにより、モデルパラメータとタスク間関係を同時に学習することを可能にします。
タスク係数
マルチタスク学習の目的関数における各タスクの相対的な影響を制御する正則化パラメータで、異なるタスクが全体的な損失関数への寄与をバランスさせることができます。
マルチタスク直交性
各タスクに特有の表現を互いに直交させる正則化制約で、負の干渉を最小限に抑えながら共有知識を保持します。
マルチタスクグループ化ペナルティ
モデルパラメータをタスクへの関連性に応じてグループ化し、異なるレベルの罰則を適用することで、表現の選択的共有を促進する正則化技術です。
特異値分解による正則化
SVD分解を通じてタスク間で共有される重み行列に低ランク制約を適用する手法で、モデルの複雑さを低減しながら本質的なタスク間関係を捉えます。
マルチタスクドロップアウト
マルチタスク文脈に適応したドロップアウトの変種で、タスク固有のブランチ間でニューロンを協調的に無効化し、重要な共有接続を保持します。
マルチタスク敵対的正則化
敵対的ネットワークを使用して共有表現を正則化するアプローチで、特定のタスクに偏ることなく、すべてのタスクに対して十分な情報を含むことを保証します。
マンガン損失
動的に学習された重みを使用して個々の損失を非線形に組み合わせるマルチタスク損失関数で、トレーニング中に各タスクの重要度を自動的に正則化します。
マルチタスクコントラスト正則化
同じタスクの表現間の類似性を最大化し、異なるタスクの表現間の類似性を最小化することで、共有特徴空間を正則化する手法です。
タスク融合ペナルティ
タスク固有のモデルのパラメータ間の分岐にペナルティを課す正則化メカニズムで、タスクが類似している場合に知識の段階的な融合を促進します。
マルチタスク勾配正則化
タスク間の損失勾配を正則化して競合を最小化し、共有パラメータの更新が考慮されるすべてのタスクに同時に利益をもたらすことを保証する手法です。
マルチタスクフーバー損失
各タスクに対して二次損失と絶対損失を適応的に組み合わせることで、外れ値の影響を正則化する、フーバー損失のマルチタスクフレームワークへの堅牢な拡張です。
マルチタスクアテンション正則化
アテンションメカニズムを使用してタスク間の表現共有を正則化し、コンテキストに応じてどの特徴を専門化または共有するかを動的に学習する手法です。
マルチタスク一貫性ペナルティ
タスクによってラベル付けが異なる類似の入力に対するモデルの予測に一貫性を課す正則化制約で、タスク間の汎化を向上させます。
マルチタスク蒸留による正則化
マルチタスクモデルを正則化する方法で、一連の単一タスク専門モデルの出力を模倣するように強制することで、専門知識を保持しながら共有の利点も得ます。