AI用語集

📖

用語

学習率 (Learning Rate)

各推定量の最終モデルへの寄与を制御するハイパーパラメータで、収束速度とモデルの精度のトレードオフを可能にする。

📖

用語

最大深さ (Max Depth)

各決定木の最大深さを定義するハイパーパラメータで、モデルの複雑さと過学習のリスクを制御する。

📖

用語

分割探索 (Split Finding)

ヒストグラムと呼ばれるデータ構造を介してXGBoostで最適化された、木のノード内で最適な分割点を見つけるアルゴリズム的プロセス。

📖

用語

木の剪定 (Tree Pruning)

損失の正の利得をもたらさない木の枝を除去してモデルを簡素化する、利得スコアに基づく事後剪定技術。

📖

用語

早期停止 (Early Stopping)

検証セットでの性能が改善しなくなったときに学習を停止する正則化技術で、過学習を回避する。

📖

用語

ガンマ (min_split_loss)

木のノードで新たな分割を実行するために必要な最小損失を指定する正則化ハイパーパラメータで、複雑さを制御する。

📖

用語

ラムダ (L2正則化 on weights)

木の葉の重みに適用されるL2正則化ハイパーパラメータで、過学習を防ぐためにそれらの振幅を減少させる。

📖

用語

アルファ (L1正則化 on weights)

木の葉の重みに適用されるL1正則化ハイパーパラメータで、スパース性を促進し、一部の重みをゼロに設定することができる。

📖

用語

Scale-Pos-Weight

不均衡な分類問題で使用されるハイパーパラメータで、陽性クラスを陰性クラスに対して重み付けします。

📖

用語

Parallelization

XGBoostが複数のCPUコアでツリー構築を並列化する能力で、学習時間を大幅に短縮します。

📖

用語

Cache-Aware Access

XGBoostのアルゴリズム最適化で、キャッシュ使用率を最大化するためにメモリアクセスを整理し、パフォーマンスを向上させます。