AI用語集
人工知能の完全辞典
敵対的攻撃
AIモデルを欺瞞し、分類エラーや予期せぬ動作を引き起こすために、入力データを意図的に操作すること。これらの攻撃は、人間には知覚できないがアルゴリズムによって検出可能な微小な摂動を導入することで、ニューラルネットワークの数学的な脆弱性を利用する。
倫理的堅牢性
AIシステムが操作の試みや予期せぬ条件下で、その倫理的原則と公正な動作を維持する能力。これは、ストレスやアルゴリズム攻撃下でもシステムの道徳的価値を維持することを保証する。
敵対的防御
敵対的訓練、異常検出、入力浄化など、AIモデルを敵対的攻撃から強化するための技術群。これらの方法は、乗っ取りの試みに直面してもシステムの機能的・倫理的完全性を維持することを目指す。
データ汚染
モデルの将来のパフォーマンスを損ない、体系的なバイアスを導入するために、訓練データセットに意図的に破損したデータを挿入すること。この技術は、AIシステムの倫理的・意思決定能力を意図的に低下させることができる。
モデル回避
特別に作られた入力がAIモデルの検出・分類メカニズムを回避する攻撃戦略。回避は、確立されたルールと道徳的制約の違反を可能にすることで、倫理的堅牢性を直接的に脅かす。
倫理的摂動
AIシステムの倫理的意思決定メカニズムを損なうことを目的とした、入力やパラメータの微妙な修正。これらの攻撃は、プログラムされた価値に適合しない動作を誘発するために、道徳的判断の層を標的とする。
倫理的安定性
入力や環境条件の微小な変動に対する、AIシステムの倫理的意思決定の一貫性の測度。安定性は、文脈的変動にもかかわらず、道徳的判断が一貫して予測可能なままであることを保証する。
アルゴリズム的回復力
攻撃や重大な摂動を受けた後、AIシステムが回復し倫理的パフォーマンスを維持する能力。回復力には、長期的な道徳的完全性を維持するための自己修正・適応メカニズムが含まれる。
倫理セキュリティ
倫理的判断メカニズムを操作や侵害から保護することを専門とするAIサイバーセキュリティの分野。暗号技術、形式的検証、および行動モニタリングを組み合わせて、道徳的完全性を保証する。
倫理的脆弱性
AIシステムのアーキテクチャまたは実装における弱点で、基本的な倫理原則に違反するために悪用される可能性があるもの。これらの脆弱性は、システムの意思決定層、検証層、または道徳的制御層に存在する可能性がある。
堅牢性テスト
AIシステムが極端または敵対的なシナリオに直面した場合に、倫理的行動を維持する能力を体系的に評価するプロセス。これらのテストは、様々な種類の攻撃と混乱をシミュレートして、道徳的弱点を特定し修正する。
倫理的検証
AIシステムが敵対的制約下でも一貫して倫理的制約を遵守することを確認する正式な検証プロセス。検証は、統計的テスト、形式的検証、および行動監査を組み合わせて、道徳的適合性を確保する。
倫理的対策
AIシステムの倫理原則を侵害しようとする試みを予防または中和するために設計された積極的または反応的なメカニズム。これらの対策には、異常検知、意思決定分離、および倫理的回復が含まれる。
敵対的推論
攻撃者がAIモデルの脆弱性を悪用して機密情報を推測したり、非倫理的な決定を強制したりするプロセス。敵対的推論は、システムの機密性と道徳的完全性を直接的に脅かす。
分布的堅牢性
入力データの分布または運用条件の変化に対して、AIシステムが倫理的パフォーマンスを維持する能力。この堅牢性は、分布的ドリフトがあっても道徳的決定の安定性を保証する。
抽出攻撃
AIモデルのバイアスや倫理的脆弱性を含むその動作を、体系的に問い合わせることで再現することを目的とする手法。これらの攻撃は、元のシステムの道徳的弱点を特定し悪用する可能性がある。
倫理認証
AIシステムが定義された条件下で、攻撃に対しても倫理的保証を維持していることを証明する正式なプロセス。倫理認証は、認められた基準に従って道徳的意思決定メカニズムの堅牢性を検証します。
敵対的訓練
モデルが攻撃に抵抗する能力と倫理的原則を維持する能力を同時に学習する訓練方法。このアプローチは、学習中にシステムを敵対的なシナリオに曝すことで堅牢性を強化します。