AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
可解释人工智能 (XAI)
使人工智能模型决策能够被人类理解的一系列技术和方法，对于合规性和用户信任至关重要。
个术语
可解释性
人工智能模型以可理解的方式呈现其内部机制的能力，区分内在可解释性（透明模型）和事后可解释性。
个术语
GDPR解释权
根据GDPR第22条，组织有法律义务为影响个人的自动化决策提供清晰且有意义的解释。
个术语
算法审计
系统评估人工智能算法以验证其是否符合法律、伦理和技术要求的过程，包括偏见测试和文档记录。
个术语
黑盒模型
内部机制不透明且难以解释的人工智能模型，给监管审计和透明度带来重大挑战。
个术语
SHAP (沙普利加性解释)
基于博弈论的解释方法，量化每个特征对预测的影响，为监管审计提供理论保证。
个术语
LIME (局部可解释模型无关解释)
局部解释技术，通过使用局部可解释的简单模型逼近复杂模型来解释个体预测。
个术语
特征重要性
衡量每个输入变量对模型预测相对影响的量化指标，对于记录审计决策因素至关重要。
个术语
反事实解释
展示输入特征的最小修改如何改变模型决策的解释，有助于理解和质疑自动化决策。
个术语
模型文档
对AI模型特征、性能、局限性和决策过程的结构化完整记录，为监管合规所必需。
个术语
决策可追溯性
跟踪和记录AI系统从输入数据到最终输出的整个决策过程的能力，对法律审计至关重要。
个术语
AI影响评估
系统评估AI系统对基本权利和社会的潜在风险，根据欧洲AI法规为强制性要求。
个术语
决策理由说明
提供清晰具体理由支持每个自动化决策的义务，使个人能够理解和质疑结果。
个术语
公平性指标
衡量算法决策中潜在偏见和歧视的量化指标，对遵守反歧视法规至关重要。
个术语
鲁棒性测试
系统评估模型在输入数据变化时预测稳定性的方法，确保监管审计所需的可靠性。
个术语
全局敏感性分析
评估每个变量对模型在所有数据上预测的整体影响的方法，为监管审计提供全面视图。
个术语
算法注册表
集中式数据库，记录组织使用的所有AI算法及其特征和风险等级，为监管透明度所必需。
🔍