AI用語集
人工知能の完全辞典
NODE
ニューラル・オブリビアス・デシジョン・アンサンブル、構造化データを処理するためにニューラルネットワークにオブリビアス決定木を統合したハイブリッドアーキテクチャ。
オブリビアス決定木
同じ深さのすべてのノードが分割に同じ特徴を使用する決定木。これにより構造が単純化され、微分可能性が向上する。
オブリビアス活性化関数
決定木ノードの閾値動作をエミュレートする非線形活性化関数で、ニューラルネットワークへのシームレスな統合を可能にする。
エンドツーエンド訓練
樹木構造とニューロン重みを含む完全なNODEアーキテクチャを、逆伝播によって同時に最適化するプロセス。
平滑化バイナリエントロピー
NODEで訓練を安定化させ、決定木での自明な分割を避けるために使用されるクロスエントロピーの正則化バージョン。
ニューラル決定層
オブリビアス決定木の集合を実装するニューラルネットワーク層で、微分可能な決定モジュールとして機能する。
特徴分割
NODEが各オブリビアス木の深さレベルで入力特徴を選択・分割し、情報利得を最大化するプロセス。
複雑度正則化
NODEの訓練中に適用されるペナルティで、木の葉の数を制御し、過学習を避けるためのもので、枝刈りと類似している。
ハイブリッド解釈可能性
NODEが、木構造を介したグローバルな説明と決定経路を介したローカルな説明の両方を提供し、両方のアプローチの利点を組み合わせる能力。
パラメータ化されたリーフ関数
NODEの木におけるリーフの出力値で、定数ではなく、学習中に学習される入力特徴量の線形関数。
木構造の微分
NODEにおけるoblivious木の微分可能な性質により可能になった、木自体の構造(特徴量の選択)に関する勾配の計算。
ニューラル木のアンサンブル
複数のニューラル決定層を積み重ねて強力な決定木のアンサンブルを形成する、NODEモデルの最終構成。
ソフトルーティング
NODEのメカニズムで、入力サンプルがハードで二項的なルーティングではなく、確率的に木の複数のブランチに分散される仕組み。
勾配降下法による最適化
NODEの主な最適化手法で、勾配を介してリーフの重みとノードの特徴量選択を同時に調整する方法。
数値的安定性
NODEの重要な特性で、飽和や爆発などの勾配問題を避けるために特別に設計された活性化関数と損失関数によって保証される。
表データにおける一般化
構造化データセットにおけるNODEの優れた性能で、表形式の特徴量間の非線形相互作用を効果的に捉える。
スケーラブルアーキテクチャ
アルゴリズムを根本的に変更することなく、より複雑な関係をモデル化するためにレイヤーとツリーを追加できるNODEの設計。