Глоссарий ИИ
Полный словарь искусственного интеллекта
Контрпример
Экземпляр, сгенерированный с минимальными отличиями от исходного ввода, но дающий другую предсказательную модель, что позволяет объяснить условия изменения решения.
Расстояние Хэмминга
Метрика, измеряющая минимальное количество характеристик, которые нужно изменить для преобразования экземпляра в контрпример, важная для оценки экономности объяснений.
Валидность контрпримера
Фундаментальный критерий, гарантирующий, что сгенерированный контрпример действительно дает желаемое предсказание, отличное от предсказания исходного экземпляра.
Пространственная близость
Мера сходства между исходным экземпляром и его контрпримером в пространстве характеристик, критически важная для обеспечения релевантности и достоверности объяснения.
Действенность
Способность контрпримера предлагать реализуемые и релевантные для пользователя изменения, превращая объяснение в практические рекомендации.
Разнообразие контрпримеров
Генерация наборов контрпримеров, охватывающих различные альтернативные пути для изменения предсказания, предлагающая полное видение возможностей вмешательства.
Робастность модели
Анализ стабильности предсказаний относительно контрпримеров, раскрывающий слабые места модели и ее зоны чувствительности к вариациям ввода.
Человеко-машинный интерфейс
Интерактивная система, позволяющая пользователям генерировать и исследовать контрпримеры, облегчая интуитивное понимание механизмов принятия решений моделью.
Каузальная интерпретация
Расширение контрпримеров для идентификации причинно-следственных связей между характеристиками и прогнозами, выходящих за рамки простых статистических корреляций.
Набор контрпримеров
Организованная коллекция контрпримеров, исследующих различные измерения модификации, обеспечивающая многомерное понимание границ принятия решений.
Регуляризация штрафа
Механизм контроля масштаба допустимых модификаций при генерации контрпримеров, предотвращающий нереалистичные или чрезмерные изменения.
Ограничения принадлежности
Правила, гарантирующие, что контрпримеры остаются в допустимых и правдоподобных областях, соблюдая физические или логические ограничения задачи.
Метод исследования
Систематический алгоритм для эффективного обнаружения релевантных контрпримеров в высокоразмерном пространстве характеристик модели.
Функция стоимости
Математическое выражение, объединяющее несколько критериев для оценки качества контрпримера, направляющее оптимизацию к наиболее релевантным решениям.