Глоссарий ИИ
Полный словарь искусственного интеллекта
XAI (Explainable AI)
Совокупность техник и методов, направленных на то, чтобы сделать решения систем искусственного интеллекта понятными для человека, что имеет решающее значение для доверия и приемлемости.
Интерпретируемость
Способность модели представлять свои решения в понятной для человека форме, в отличие от прозрачности, которая касается понимания внутреннего механизма.
Пост-хок объяснения (Post-hoc explanations)
Методы объяснения, применяемые после обучения модели без изменения её архитектуры, позволяющие объяснять прогнозы моделей «чёрного ящика».
SHAP (SHapley Additive exPlanations)
Теоретический подход, основанный на теории игр, для определения важности каждого признака в прогнозе модели аддитивным и непротиворечивым образом.
LIME (Local Interpretable Model-agnostic Explanations)
Техника локального объяснения, которая аппроксимирует поведение сложной модели простой и интерпретируемой моделью в окрестности конкретного прогноза.
Факторы влияния
Конкретные элементы (объекты, атрибуты, прошлые действия), которые напрямую способствовали формированию конкретной рекомендации в системе.
Контр-объяснения
Объяснения, которые оправдывают, почему некоторые объекты не были рекомендованы, помогая пользователям понять ограничения и критерии исключения системы.
Причинно-следственные обоснования
Объяснения, основанные на причинно-следственных связях между действиями пользователя и сгенерированными рекомендациями, а не на простых корреляциях.
Подходы на основе знаний
Методы рекомендаций, использующие онтологии или графы знаний для генерации семантически богатых и контекстуально релевантных объяснений.
Визуализации объяснений
Интерактивные графические представления, которые преобразуют алгоритмические обоснования в интуитивно понятные визуальные элементы для облегчения понимания пользователем.
Персонализация объяснений
Адаптация содержания, стиля и уровня детализации объяснений в соответствии с профилем, предпочтениями и экспертизой каждого пользователя.
Качественные оценки объяснений
Методы оценки, основанные на пользовательских исследованиях, интервью и анализе контента для измерения релевантности и воспринимаемой полезности объяснений.
Объяснительная обратная связь
Механизм, позволяющий пользователям реагировать на предоставленные объяснения, тем самым уточняя будущие рекомендации и качество обоснований.
Объяснительная сложность
Мера когнитивных усилий, необходимых для понимания объяснения, оценивающая компромисс между технической точностью и доступностью для пользователя.
Алгоритмическая прозрачность
Принцип, заключающийся в раскрытии механизмов, данных и логики, лежащих в основе рекомендательной системы, для обеспечения её отслеживаемости и аудируемости.
Алгоритмическое доверие
Уровень воспринимаемой пользователями надёжности и достоверности системы, напрямую влияющий на качество и релевантность предоставляемых объяснений.
Внутренние объяснения
Модели, разработанные изначально с возможностью интерпретации, встроенные с возможностями объяснения в отличие от подходов post-hoc.
Объясняющие правила ассоциации
Наборы логических правил (ЕСЛИ-ТО), которые обосновывают рекомендации, показывая обнаруженные взаимосвязи между поведением и элементами.
Объяснительное смещение
Систематические искажения в сгенерированных объяснениях, которые могут избыточно представлять одни факторы или минимизировать другие, влияя на справедливое восприятие системы.