AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
可解释人工智能 (XAI)
一套技术和方法，旨在使人工智能系统能被人类理解，即将复杂的决策过程转化为可解释的说明。
術語
局部可解释性
解释模型对特定实例预测的能力，通过识别影响该特定决策的特征来实现。
術語
全局可解释性
对人工智能模型行为的整体理解，解释其如何在整个数据集上进行一般性决策。
術語
黑箱
一种内部运作对人类而言不透明或难以理解的人工智能系统，导致其决策和推理过程难以解释。
術語
LIME (局部可解释模型无关解释)
一种解释技术，通过创建简单的局部模型来近似复杂模型在特定预测附近的行为，从而解释单个预测。
術語
SHAP (沙普利加性解释)
一种基于博弈论的解释方法，通过在所有特征间公平地分配贡献，来量化每个特征对最终预测的影响。
術語
决策可追溯性
能够跟踪并记录人工智能系统从输入数据到最终结果的决策过程每一步，以保证其可审计性。
術語
人工智能可审计性
系统地审查人工智能系统的能力，以评估其对标准、法规和道德要求的遵守情况，尤其是在偏见和歧视方面。
術語
模型可解释性
人工智能系统提供可理解且一致的决策解释的能力，使用户能够理解其基本推理过程。
術語
特征重要性
每个输入变量对模型预测影响的定量度量，用于识别决策中最具决定性的因素。
術語
决策可视化
表示人工智能模型决策过程的图形技术，使用户能够直观地理解预测是如何生成的。
術語
元解释
二级解释，描述人工智能模型为什么产生某些解释而不是其他解释，增强对解释系统本身的信心。
術語
自动化报告
自动生成详细报告的系统，解释人工智能的决策，包括使用的数据、遵循的推理过程和置信水平。
術語
人工验证
人类专家审查和验证人工智能系统提供的解释以确保其相关性和准确性的过程。
術語
模型文档
人工智能模型特征、性能、限制和行为的结构化和完整记录，以确保其透明度和可重用性。
術語
偏见诊断
对模型决策进行系统性分析，以识别、量化和理解基于受保护或敏感特征的潜在歧视。
術語
注意力热图
可视化展示AI模型在做决策时特别关注的区域或特征，有助于理解其推理过程。
🔍