AI用語集

📖

用語

Hyperparameter Space

ハイパーパラメータのすべての可能な組み合わせの集合であり、それらの変動ドメイン、制約、および関係によって定義され、探索アルゴリズムが動作する空間。

📖

用語

SMBO

Sequential Model-Based Optimization（逐次モデルベース最適化）。ベイズ最適化を含む一般的なパラダイムで、確率モデルを使用してハイパーパラメータ探索を逐次的に誘導する。

📖

用語

Hypergradient Descent

ハイパーパラメータに関する勾配を計算して直接更新する最適化手法で、勾配を使用しないアプローチよりも効率的な最適化を可能にする。

📖

用語

Bandit-Based Optimization

ハイパーパラメータ探索を多腕バンディット問題として定式化する最適化アプローチで、探索と活用を適応的にバランスさせる。

📖

用語

Hyperparameter Importance Analysis

各ハイパーパラメータのモデル性能への相対的影響に関する系統的な研究で、最も影響力のあるパラメータに最適化努力を優先させることを可能にする。

📖

用語

Hyperparameter Transfer Learning

あるタスクやドメインから別のタスクやドメインへ最適なハイパーパラメータに関する知識を転移する技術で、新しい問題における最適化を加速させる。