Глоссарий ИИ
Полный словарь искусственного интеллекта
Рассуждение на основе доказательств
Процесс, в ходе которого явная система QA анализирует и связывает предоставленные текстовые фрагменты в качестве доказательств для построения логичного и обоснованного ответа.
Цепочка рассуждений (Chain-of-Thought)
Техника, при которой модель генерирует последовательность промежуточных этапов рассуждения перед тем, как дать окончательный ответ, делая свою логику прозрачной и проверяемой.
Проверка фактов
Механизм, заключающийся в проверке точности утверждений в ответе путем их сопоставления с базой знаний или надежными внешними источниками.
Объяснимость с помощью контрпримеров
Метод объяснения, который предоставляет примеры случаев, когда ответ был бы иным, помогая пользователю понять ограничения и условия применения рассуждения.
Шкала оценки уверенности
Система оценки, которая количественно определяет уровень уверенности модели для каждого сегмента своего ответа, часто основываясь на согласованности доказательств и надежности источников.
Дерево обоснования
Иерархическая структура, которая показывает, как первичные доказательства поддерживают промежуточные выводы, которые, в свою очередь, приводят к окончательному ответу.
Декомпозиция вопроса
Процесс, заключающийся в разделении сложного вопроса на более простые подвопросы, каждый из которых решается и обосновывается индивидуально перед составлением общего ответа.
Атрибуция источников
Практика соотнесения каждой части ответа с конкретным документальным источником (документ, абзац), из которого она была извлечена.
Абдуктивное рассуждение
Тип логического вывода, при котором система генерирует наиболее правдоподобную гипотезу для объяснения набора наблюдений или предоставленных доказательств.
Мета-объяснение
Объяснение второго уровня, которое описывает, почему система выбрала определенную стратегию рассуждения или конкретный тип доказательства для ответа.
Согласованность доказательств
Мера степени логической совместимости между различными фрагментами текста, используемыми в качестве доказательств для поддержки единого ответа.
Генерация синтетических доказательств
Способность системы создавать краткие изложения или перефразировать доказательства, чтобы сделать их более понятными, сохраняя при этом их обосновывающую ценность.
Картирование обосновывающих сущностей
Техника, которая идентифицирует и связывает ключевые сущности (лица, места, даты) в вопросе с их упоминаниями в доказательствах для усиления обоснования.
Анализ семантического покрытия
Оценка, измеряющая, в какой степени предоставленные доказательства охватывают все семантические аспекты заданного вопроса.
Многошаговое рассуждение
Способность связывать несколько этапов дедукции, где каждый этап обоснован, для ответа на вопросы, требующие вывода на основе нескольких отношений.
Оценка обоснованности
Метрика, оценивающая качество объяснения на основе его ясности, уместности и способности убедить пользователя в справедливости ответа.
Контрастивное объяснение
Метод, объясняющий не только, почему данный ответ является верным, но и почему другие правдоподобные альтернативные ответы неверны.
Прослеживаемость рассуждений
Свойство системы, позволяющее хронологически восстановить каждый этап процесса принятия решений, от вопроса до обоснованного ответа.