AI用語集

📖

用語

敵対的攻撃

機械学習モデルを欺くために、入力データに知覚できないほどの微小な摂動を加える技術。これらの攻撃は、画像のピクセルを微妙に操作することで、ディープニューラルネットワークの脆弱性を悪用する。

📖

用語

敵対的パッチ攻撃

分類モデルや検出モデルを欺くために、画像に物理的またはデジタルなパッチを適用する攻撃手法。ピクセル単位の摂動とは異なり、この手法は画像の特定の領域を目に見える形で変更するが、モデルによっては誤って解釈される。

📖

用語

ユニバーサル攻撃

単一の摂動だけで、ほとんどの入力画像においてモデルを欺くことができる攻撃タイプ。新しい画像ごとに摂動を再計算する必要がないため、特に危険な攻撃である。

📖

用語

物体検出への攻撃

バウンディングボックスや信頼度スコアを操作することで、物体検出モデルを欺くように設計された攻撃。これらの攻撃により、検出された物体が消えたり、偽の物体が現れたりする可能性がある。

📖

用語

グラディエントマスキング

防御モデルが意図的に決定境界を滑らかにし、攻撃に使用される勾配を利用できないようにする現象。保護されているように見えるが、この手法は回避されることが多く、誤った安心感を与える可能性がある。

📖

用語

Lp摂動

異なる数学的ノルム（L0、L2、L∞）を使用して、敵対的摂動の大きさを測る指標。各ノルムは、画像で許可される変更の性質や分布に対して異なる制約を課す。

📖

用語

セマンティックセグメンテーションへの攻撃

画像のピクセルごとの分類を変更するセグメンテーションモデルを標的とした攻撃。これらの攻撃は輪郭や意味的領域の認識を歪める可能性があり、自動運転や医療画像などのアプリケーションに影響を与える。

📖

用語

攻撃の転用性

特定のモデルに対して生成された攻撃が、異なるアーキテクチャを持つ他のモデルに対しても有効である現象。この特性はブラックボックス攻撃にとって重要であり、モデル間に共通する脆弱性を明らかにする。