Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы локальной важности (LIME)
Техники объяснения, которые анализируют индивидуальные прогнозы, чтобы понять, как модель принимает конкретное решение.
Методы SHAP (SHapley Additive exPlanations)
Подход, основанный на теории игр для количественной оценки влияния каждой характеристики на прогнозы модели.
Анализ характеристик
Систематическое изучение важности, релевантности и влияния входных переменных на прогнозы модели.
Визуализация моделей
Набор графических техник, позволяющих визуализировать внутреннее поведение и решения моделей ИИ.
Анализ контрфактуалов
Генерация альтернативных сценариев для понимания того, какие минимальные изменения входных данных изменят прогноз модели.
Правила интерпретации
Извлечение простых и понятных логических правил из сложных моделей, таких как нейронные сети.
Интерпретируемость после обучения
Методы, применяемые после обучения для объяснения решений изначально неинтерпретируемых моделей.
Интерпретируемость по конструкции
Подходы, в которых прозрачность интегрирована с самого этапа проектирования модели, создавая естественно объяснимые алгоритмы.
Причинные объяснения
Анализ причинно-следственных связей в решениях модели, выходящих за рамки простых корреляций.
Анализ алгоритмических смещений
Обнаружение, количественная оценка и объяснение систематических смещений в прогнозах моделей ИИ.
Метрики верности объяснений
Набор мер для оценки качества и точности объяснений, генерируемых методами интерпретируемости.
Интерпретируемые деревья решений
Древовидные структуры, специально разработанные для обеспечения прозрачных и легко понятных решений.
Карты значимости (Saliency Maps)
Техники визуализации, которые выделяют наиболее влиятельные регионы или характеристики во входных данных.
Многомодальные объяснения
Подходы к интерпретации, адаптированные для моделей, обрабатывающих одновременно несколько типов данных (текст, изображение, аудио).
Аудит прозрачности
Систематическая и независимая оценка прозрачности, справедливости и надежности моделей ИИ.