AI用語集
人工知能の完全辞典
多項式回帰
1次以上の多項式関数を用いて変数間の関係をモデル化する非線形回帰技術。係数に関しては線形の枠組みを維持しながら、複雑な関係を捉えることができます。
ヴァンデルモンド行列
多項式回帰で使用される行列構造。各列は独立変数の累乗を表し、係数に関して非線形問題を線形問題に変換します。
多項式の次数
多項式モデルの複雑さを決定するパラメータ。方程式内の最も高い指数に対応します。高い次数は柔軟性を増させますが、過学習のリスクがあります。
多項式の過学習
次数が高すぎる多項式が訓練データに過剰に適合し、ノイズを捉える傾向が強くなる現象。訓練では優れた性能を示しますが、汎化性能が悪化します。
リッジ正則化
多項式係数の振幅を制御し、過学習を防ぐためのL2ペナルティ法。係数の2乗に比例するペナルティ項を目的関数に加えます。
ラッソ正則化
L1ペナルティ技法により、一部の多項式係数をゼロに向かわせ、自動変数選択を行う手法。関連性の低い多項式項を除去するのに特に有用です。
交互作用項
多項式モデルにおける予測変数の積で、特徴間の相乗効果を捉えます。ある変数の効果が他の変数のレベルに依存する関係をモデリングできます。
K分割交差検証
データをK個のサブセットに分割し、多項式モデルの性能を異なるパーティションで評価する堅牢な評価技術。検証誤差を最小化することで最適な次数を選択できます。
多項式の多重共線性
同じ変数から派生した多項式項間の高い相関関係。特に高次多項式で問題となる。係数推定を不安定にし、標準化が必要になることが多い。
直交多項式
特定の区間で数学的に直交する多項式のファミリー（ルジャンドル、チェビシェフなど）。多重共線性を減らし、回帰の数値的安定性を向上させる。
多項式変換
既存の変数を異なる累乗で乗算し、相互作用項を生成することで新しい特徴量を作成するプロセス。非線形関係を捉えるために特徴量空間を変換する。
多項式学習曲線
異なる多項次数について、サンプルサイズに応じた訓練誤差と検証誤差の変化を示すグラフ。過学習または未学習の診断に役立つ。
加重最小二乗法
各観測値がその信頼性または分散に基づいて重み付けされる最小二乗回帰の変種。多項式データに不均一分散性が存在する場合に特に適している。
特徴量スケーリング多項式
数値的不安定性を避けるために多項式変換前の変数を標準化または正規化すること。多項式の異なる次数間のスケール問題を防ぐ。