AI用語集
人工知能の完全辞典
収束率
フェデレーテッド学習アルゴリズムが最適解または定常点に到達する速度の尺度で、データの不均質性とクライアント間の通信に影響される。
ローカル更新
中央サーバーとの通信前に各クライアントでローカルに実行される最適化反復回数で、収束と計算効率に直接影響を与える。
グローバルモデル
すべての参加クライアントの貢献を統合した結果として得られる集約モデルで、分散システムの集合的知識を表す。
勾配圧縮
量子化やサンプリングによりクライアントとサーバー間で送信される勾配のサイズを削減する技術で、収束を維持しながら通信効率を向上させる。
差分プライバシー
ローカル更新に制御されたノイズを追加することで機密性を保証する理論的枠組みで、プライバシーとフェデレーテッドモデルの収束のトレードオフに影響する。
ビザンチン故障耐性
不正または故障したクライアントが誤った更新を送信する場合に対するシステムの堅牢性で、耐障害性のある検出と集約メカニズムを必要とする。
非同期フェデレーテッド学習
クライアントが非同期でグローバルモデルを更新する学習パラダイムで、待機時間を削減するが収束解析を複雑にする。
モデル不均質性
フェデレーテッドシステムにおけるクライアントモデル間のアーキテクチャ的不均質性の管理で、収束を保証するための適応集約戦略を必要とする。
収束解析
データの不均質性、障害、通信制約を考慮した連合学習アルゴリズムの収束を保証する条件に関する理論的研究。
最適化ランドスケープ
クライアント間の非IIDデータ分布による複数の局所最適解を特徴とする、連合学習における集団的損失曲面。
クライアントサンプリング
各トレーニングラウンドでクライアントのサブセットを選択する戦略。収束速度とグローバルモデルにおける表現の公平性に影響を与える。
連合学習におけるモーメンタム
分散環境での最適化を安定化・加速するため、局所またはグローバル勾配の履歴を使用する収束加速技術。
収束保証
特定の条件下で連合学習アルゴリズムが収束することを保証する理論的特性。収束率の上限と最終モデルの品質に関する境界を含む。
連合最適化
連合学習の制約に特化した最適化手法を研究する学問分野。最適化理論と分散システムを組み合わせる。
システム不均質性
クライアント間の計算能力とネットワーク能力の変動。収束戦略に直接影響し、適応的アプローチを必要とする。