AI用語集
人工知能の完全辞典
SVD（特異値分解）
任意の行列Mを直交行列UとV、特異値を含む対角行列Σの積UΣVᵀに分解する基本的な手法。最小二乗法の意味で最適なランクkの近似を提供し、データの内在的構造を明らかにする。
切断特異値分解
SVDの変形で、最大k個の特異値と関連するベクトルのみを保持して次元を明示的に削減する。ノイズを除去しながら情報の主要成分を維持し、バイアス-バリアンスのトレードオフを最適化する。
LU分解
正方行列を下三角行列Lと上三角行列Uの積に分解する因数分解。連立一次方程式系を効率的に解き、行列式を計算するために基本的。
QR分解
行列を直交行列Qと上三角行列Rの積に分解する。最小二乗問題を解き、数値的に安定したアルゴリズムを実装するために不可欠。
PARAFAC因子分解
平行因子分解を使用して行列の因数分解を高次テンソルに拡張。マルチセンサー信号解析などのアプリケーションでテンソルデータの多次元相互作用を捉える。
Tucker分解
SVDをテンソルに一般化し、テンソルを中心コアと各モードの因数行列に分解する。各次元で異なるランクを許可することでPARAFACより高い柔軟性を提供する。
ALS（交互最小二乗法）因子分解
他の因子を固定しながら交互に各行列因子を最適化する反復アルゴリズム。局所解に効率的に収束し、大規模な推薦システムの標準手法となる。
低ランク最適化
最小ランク制約下で最適な行列近似を求める最適化問題。データ圧縮、ノイズ除去、高次元データの構造抽出に基本的。
行列の補完
行列のランクが低いという仮定の下で、行列の欠損値を補完するタスク。推薦システムや部分的に観測されたデータの再構成における重要な応用。
kランク近似再構成
フロベニウスノルムの意味でSVDの打ち切りが最良のkランク近似を提供することを保証するEckart-Youngの定理。SVDに基づく次元削減手法の最適性を理論的に基礎づける。
確率的行列分解
潜在因子を事前分布を持つ確率変数として扱うベイズ的アプローチ。正則化の自然な組み込みと予測における不確実性の定量化を可能にする。
確率的SVD分解
ランダム射影を用いてSVD近似を計算するランダム化アルゴリズム。厳密なSVDが計算コスト的に高価な大規模行列に特に有効。
対角ブロック分解
計算を並列化しメモリ複雑性を削減するためにブロック構造を利用する特殊な分解。大規模構造化行列の分散処理に不可欠。
独立成分分析
非ガウス性を最大化することで統計的に独立な成分に多変量信号を分離する分解法。信号処理とブラインドソースセパレーションにおいて基本的。
外れ値に対するロバストな因子分解
ロバストなノルムを使用することで腐敗した観測値や異常値に抵抗する行列分解の変種。ノイズや測定エラーで汚染されることが多い実世界のデータに重要。