AI用語集
人工知能の完全辞典
確率的防御
分類プロセスにおいてランダム性を利用し、推論に確率的性質を導入することで、敵対的攻撃を予測不可能かつ効果を低減させる防御的アプローチ。
確率的ロバスト性
すべての攻撃に対して絶対的な保護を保証するのではなく、摂動に対してモデルが正しい予測を維持する確率を評価する堅牢性の指標。
ガウス防御
モデルを保護するためにガウスノイズを利用するランダム化の特定の手法。正規分布が入力またはニューラルネットワークの重みのいずれかに適用される。
ドロップアウト防御
ネットワークの活性化にランダム性を導入し、勾配攻撃の信頼性を低下させるために、推論時（通常は無効）にドロップアウトを戦略的に使用する手法。
ランダム変換
分類前に入力に対してランダムな変換（回転、平行移動、スケーリング）を適用し、標的型の敵対的例の構築を妨げる変動性を作り出す手法。
エントロピーに基づく防御
出力確率分布のエントロピーを指標として使用して疑わしい入力を検出・拒否し、ランダム化と組み合わせて不確実性を高める防御手法。
モンテカルロ防御
異なるランダムな実現値で複数回の推論を行い、その結果を集約することで、モンテカルロ法を用いてモデルの堅牢性を推定する防御的アプローチ。
ベイズ防御
ネットワークの重みを固定された点ではなく確率分布として扱い、分類プロセスに不確実性とランダム性を自然に統合する防御フレームワーク。
確率的勾配マスキング
敵対的例生成において、攻撃者が勾配ベースの手法を効果的に利用できないようにするために、ランダム化によって意図的に勾配を不明瞭にする技術。
ランダム化アンサンブル
各メンバーが異なるランダム化を用いるモデルのアンサンブルを構築し、予測の確率的な多様性を通じて、より堅牢な集合的防御を生み出す手法。
適応的ランダム化
堅牢性と精度のトレードオフを最適化するために、入力の特性や検出された脅威に基づいて、ランダム化のレベルとタイプを動的に適応させる防御戦略。
確率的認証
絶対的な確実性ではなく、摂動下での正しい分類の確率に関する境界を提供する数学的保証であり、ランダム化防御手法に適している。
ノイズ考慮型防御
追加されたノイズの性質と統計的プロパティを明示的に考慮して設計された防御アプローチであり、パフォーマンスを維持しながら最大限の保護を実現するためにランダム化を最適化する。
確率的推論
様々な段階（入力、活性化、重み）にランダムな要素を統合する推論プロセスであり、決定論的な分類を攻撃に対する耐性を持つ確率的プロセスへと変換する。
ランダム化前処理
敵対的攻撃に対する第一の防御線を構築するために、ランダムなステップ（可変正規化、確率的データ拡張など）を組み込んだデータ前処理パイプライン。
分布ロバスト性
入力データの分布の変動に対して安定したパフォーマンスを維持するモデルの特性であり、ランダム化を通じてこれらの変動をシミュレートし防御することで得られる。