AI用語集
人工知能の完全辞典
線形判別分析 (LDA)
事前に定義されたクラス間の分離性を最大化しながら、データを低次元空間に射影する教師付き次元削減の統計的手法。
フィッシャーの線形判別
1936年にロナルド・フィッシャーによって提案されたLDAの原形式で、クラス間分散とクラス内分散の比を最大化する線形射影を見つけることを目的とする。
クラス間散布行列
クラスの重心が全体の重心の周りにどのように分散しているかを測定する行列S_Bで、特徴空間における異なるクラス間の分離を定量化する。
クラス内散布行列
サンプルがそれぞれのクラス重心の周りにどのように分散しているかを表す行列S_Wで、データのクラス内凝集性を測定する。
固有値分解
行列S_W⁻¹S_Bを分解して、LDAにおける最適な判別軸を定義する固有ベクトルを抽出する数学的プロセス。
判別関数
wが判別ベクトルである線形数学関数f(x) = w^T x + bで、データの射影と分類決定に使用される。
クラス重心
特定のクラスに属する全てのサンプルの特徴ベクトルの平均として計算される、各クラスの代表的な平均点。
共分散行列
全ての変数ペア間の共分散を含む正方行列Σで、LDAにおけるクラス内分散構造を特徴付けるために不可欠。
射影行列
選択された固有ベクトルを列として構成される行列Wで、d次元のデータを低次元部分空間に変換するために使用される。
教師あり次元削減
クラスラベルを使用して変換を導く次元削減アプローチ。PCAのような教師なし手法とは異なり、この情報を活用する。
クラス分離性
射影空間における異なるクラス間の区別の定量的尺度。LDAではレイリー商の最適化を通じてこれを最大化する。
レイリー商
J(w) = (w^T S_B w)/(w^T S_W w) の比率で、LDAにおいてクラス間分離性をクラス内分散に対して最大化する射影方向を見つけるために最適化される。
正準判別分析
LDAの多変量拡張で、グループを最もよく分離する正準線形結合を見つける。多変量文脈における判別分析と同等。
線形分類器
LDAによって変換された空間で線形決定境界を使用する分類モデル。クラスは超平面によって分離される。
決定境界
判別空間においてクラスを分離する超平面。隣接するクラスの判別関数が等しくなる点の集合として数学的に定義される。
固有ベクトル
行列S_W⁻¹S_Bの固有ベクトルで、クラス分離性を最大化する最適な射影方向を表し、対応する固有値によって順序付けられる。
散乱比
クラス間分散とクラス内分散の比率で、LDAにおける最適化基準として機能し、比率が高いほどクラスの分離性が優れていることを示す。
多クラスLDA
2クラスLDAをKクラスに一般化したもので、すべてのクラスペア間の分離を同時に最大化するために、最大K-1個の判別軸を生成する。