AI 词汇表
人工智能完整词典
200
个类别
2,608
个子类别
30,011
个术语
个术语
黑盒模型
机器学习模型，其内部决策机制无法被人类直接观察或理解。这些模型需要事后解释技术来解释其预测。
个术语
白盒模型
机器学习模型，其内部结构本质上是透明的，可以被人类理解，无需额外工具。简单的决策树和线性回归是典型例子。
个术语
注意力可视化
图形界面，可视化表示深度学习模型的注意力机制，特别是在神经网络和transformer中。这些可视化帮助识别模型关注输入数据的哪些部分。
个术语
模型诊断界面
交互式系统，让分析师能够从不同视角和粒度级别探索模型行为。这些界面通常结合多种解释技术，提供模型的全面视图。
个术语
局部解释 vs 全局解释
区分针对单个预测的解释（局部）和描述模型整体行为的解释（全局）。这两个层面的解释对于全面理解系统是互补的。
个术语
基于规则的解释
以人类易于理解的逻辑规则形式表述的解释，从复杂模型中自动提取。这些规则将模型行为转换为简单的如果-那么条件。
个术语
交互式机器学习
人类实时直接与机器学习系统交互以提高相互理解的范式。这种方法结合了人类专业知识与模型的计算能力。
个术语
因果解释
识别模型决策中因果关系而不仅仅是相关性的解释。因果解释对于理解模型行为的潜在机制至关重要。
个术语
人工智能的可信度
一个多维度概念，包括人工智能系统的可靠性、鲁棒性、公平性和可解释性。可信度对于在关键领域采用人工智能技术至关重要。
个术语
可解释性仪表板
聚合多个可视化和解释工具的集中式界面，以便对模型进行全面分析。可解释性仪表板有助于交互式探索模型的预测和整体行为。
个术语
人机循环解释
人类干预被集成到模型解释的生成和验证过程中的系统。这种方法确保解释对最终用户来说是相关且可理解的。
个术语
可解释性方法
一套正式的数学和算法技术，用于从复杂模型中提取和表示可解释的信息。这些方法根据模型类型和期望的解释级别而有所不同。
个术语
部分依赖图
显示一个或两个特征对模型预测边际效应的可视化，通过对其他变量求平均。PDP对于理解复杂模型中的非线性关系特别有用。
🔍