AI用語集
人工知能の完全辞典
自律システム
人工知能システムで、人間の直接介入なしに独自の推理プロセスを使用して事前定義された目標を達成するために動作し、意思決定を行うことができる。
人間の監視
人間のオペレーターが自律システムの動作に介入、監視、または修正できる制御メカニズム。受動的な監視から直接的な介入まで、様々な関与レベルが含まれる。
重要な決定
人間の生命、安全、または基本的な権利に重要な影響を及ぼすアルゴリズムの選択。深い倫理的評価と明確な説明責任メカニズムが必要。
倫理的枠組み
自律システムの設計と展開を導き、受け入れられた社会的・道徳的価値への準拠を確保するための原則、規則、手順を定義する形式的な構造。
予防原則
自律システムが、特に潜在的なリスクが深刻または不可逆的な場合、展開前に高いレベルの安全性と信頼性を実証することを求める倫理的アプローチ。
決定の透明性
自律システムが、使用された基準や根底にある推理を含め、ステークホルダーが理解できる方法で意思決定プロセスを説明し、正当化する能力。
価値の整合性
自律システムの目標と行動が、長期的に人間の基本的価値と作成者の意図と一致することを確保するプロセス。
人工道徳エージェント
倫理的考慮を考慮して決定を行うように設計されたAIシステム。道徳的ジレンマについて推論し、事前定義された道徳的原則に従って行動することができる。
アルゴリズム倫理的ジレンマ
自律システムがすべて倫理的に負の影響を持つ複数の選択肢から選択しなければならない状況で、事前にプログラムされた道徳的対立解決メカニズムが必要とされます。
倫理的検証
自律システムが指定された倫理的制約と原則を遵守していることを証明する体系的な検証プロセスで、形式的テストと重大シナリオのシミュレーションを含みます。
倫理的監査可能性
自律システムが独立した第三者によって検査・評価され、倫理的基準への準拠と適切な決定行動を検証する能力。
倫理的自己規制
予期せぬ状況に直面した際に、倫理的原則への準拠を維持するために行動をリアルタイムで調整することを可能にする、自律システムに統合されたメカニズム。
自律的決定バイアス
学習やプログラミングに起因する自律システムの決定における体系的な偏りで、修正的監視なしに差別や不公平な扱いにつながる可能性があります。
倫理的階層
自律システムにおける倫理的原則の優先順位付け構造で、道徳的対立時にどの価値が優先されるか、および複雑なジレンマをどのように解決すべきかを定義します。
道徳的委譲
道徳的影響を持つ行動について、人間から自律システムへの決定責任の移譲で、正当性と倫理的責任の問題を提起します。
人工意識
自己とその行動に対する意識の形を持つ自律システムの理論的概念で、単なるルールの適用ではなく内在的な倫理的思索を可能にします。