Глоссарий ИИ
Полный словарь искусственного интеллекта
Интерпретируемость на естественном языке
Процесс перевода сложных решений модели ИИ в текстовые объяснения, понятные для неспециалистов, с использованием последовательной лингвистической структуры, адаптированной к предметной области.
Объяснительное повествование
Нарративный подход, структурирующий объяснения модели в форме логической истории с началом, развитием и заключением, облегчающий хронологическое понимание процессов принятия решений ИИ.
Автоматическая генерация объяснений
Система, динамически производящая текстовые описания внутренних механизмов модели машинного обучения без прямого вмешательства человека, на основе анализа весов и активаций.
Нарративный контрфактуал
Объяснительная техника, представляющая текстовые гипотетические сценарии, в которых небольшие изменения входных данных привели бы к другим решениям, иллюстрируя границы принятия решений модели.
Концептуальная метафора в XAI
Использование текстовых аналогий и метафор для представления абстрактных концепций ИИ в конкретной и знакомой форме, снижая когнитивную нагрузку для нетехнических пользователей.
Последовательное временное объяснение
Нарративный метод, разлагающий рассуждения временной или последовательной модели на хронологические этапы, объясненные текстуально, выявляя постепенное эволюционирование решения.
Объяснительная аналогия
Техника, создающая текстовые сравнения между работой модели и знакомыми пользователю процессами, использующая концептуальные параллели для демистификации сложных алгоритмических механизмов.
Причинное повествование
Подход, структурирующий объяснения вокруг цепочек причинно-следственных связей, выявленных моделью, текстуально представляющий, как каждая характеристика влияет на окончательное решение в соответствии с выявленными причинными отношениями.
Объяснительный диалоговый интерфейс
Интерактивная система диалога, позволяющая пользователям текстово запрашивать у модели персонализированные и поэтапные объяснения её решений и внутренней работы.
Вербализованное рассуждение
Процесс преобразования внутренних этапов вычисления модели в логическую текстовую цепочку, разъясняющий каждый этап процесса принятия решений в виде понятного вербального рассуждения.
Текстовое обоснование
Генерация структурированных текстовых аргументов, защищающих достоверность конкретного решения модели, опираясь на входные характеристики и соответствующие знания в области.
Многоперспективное объяснение
Подход, генерирующий несколько текстовых версий одного и того же объяснения, адаптированных для разных аудиторий (экспертов, непрофессионалов, регуляторов), каждая из которых использует соответствующий уровень детализации и язык.
Генерация объяснительных отчетов
Автоматизированное создание полных текстовых документов, детализирующих поведение модели на наборе случаев, включая статистику, примеры и качественный анализ для аудита и проверки.
Нарративная проверка
Процесс валидации текстовых объяснений, сгенерированных ИИ, обеспечивающий их логическую согласованность, фактическую точность и соответствие реальному поведению базовой модели.
Интерактивное совместное объяснение
Совместный метод, при котором пользователь и система совместно текстово строят поэтапное объяснение, при этом система динамически адаптируется к вопросам и предпочтениям пользователя.
Контекстуальная языковая адаптация
Техника автоматической настройки словарного запаса, синтаксической сложности и стиля текстовых объяснений в зависимости от области применения и профиля целевого пользователя.
Проверка текстового пользовательского ввода
Механизм сбора и анализа текстовых отзывов пользователей о предоставленных объяснениях, позволяющий итеративно улучшать качество и релевантность будущих пояснительных генераций.
Нарративная схематизация
Структурированное текстовое представление процесса принятия решений в виде нарративной схемы, организующее объяснения в сцены, актеров и сюжет для максимального вовлечения и удержания пользователя.