Глоссарий ИИ
Полный словарь искусственного интеллекта
Формальная верификация МАС
Совокупность математических методов, позволяющих строго доказать, что система мульти-агентов удовлетворяет формальным спецификациям. Эти техники гарантируют корректность глобального поведения системы до её развертывания.
Верификация моделей для МАС
Автоматическая техника верификации, исчерпывающе исследующая пространство состояний МАС для проверки временных свойств. Особенно подходит для систем с конечным числом состояний и детерминированным поведением.
Временная логика для МАС
Логический формализм, позволяющий выражать свойства эволюции во времени коллективного поведения агентов. Включает CTL, LTL и их расширения для рассуждений о мульти-агентных взаимодействиях.
Свойства эмерджентности
Глобальные характеристики системы, возникающие из локальных взаимодействий между агентами, но не явно запрограммированные. Их формальная верификация представляет собой основную проблему в валидации МАС.
Верификация через абстракцию
Метод, снижающий сложность МАС путем создания упрощенной модели, сохраняющей релевантные свойства для проверки. Позволяет обойти комбинаторный взрыв пространства состояний сложных систем.
Инварианты системы
Математические свойства, которые остаются истинными на протяжении всего выполнения системы мульти-агентов. Их идентификация и доказательство фундаментальны для гарантии стабильности и согласованности коллективного поведения.
Доказательство завершаемости
Формальное доказательство того, что МАС обязательно достигает терминального состояния за конечное время. Необходимо для критических систем, где должно быть гарантировано отсутствие бесконечных циклов.
Справедливость в МАС
Свойство, гарантирующее, что все агенты в конечном счете получат доступ к ресурсам или возможностям действия. Верификация справедливости обеспечивает отсутствие голодания и справедливость взаимодействий.
Проверка безопасности
Подтверждение того, что многоагентная система никогда не достигнет опасных или нежелательных состояний во время выполнения. Свойства безопасности включают отсутствие взаимных блокировок и соблюдение ограничений безопасности.
Проверка живости
Гарантия того, что определенные желаемые условия в конечном итоге будут достигнуты многоагентной системой. Живость обеспечивает, что хорошие вещи в конечном счете произойдут в эволюции системы.
Конечный автомат для МАС
Математическая модель, представляющая поведение агента или группы агентов с конечным числом состояний и переходов. Служит основой для применения методов проверки моделей.
Формальное моделирование
Контролируемое и математически определенное выполнение модели МАС для наблюдения и проверки ее поведения. Отличается от эмпирического моделирования своей детерминированной и воспроизводимой природой.
Композиционность
Принцип, согласно которому глобальные свойства МАС могут быть выведены из свойств его отдельных компонентов. Облегчает модульную проверку сложных многоагентных систем.
Эпистемическое рассуждение
Формальная логика, позволяющая выражать и проверять знания, убеждения и неопределенности агентов в МАС. Фундаментальна для анализа взаимодействий, основанных на разделяемой информации.
Проверка консенсуса
Формальная проверка того, что агенты приходят к соглашению об общем значении или решении, несмотря на возможные сбои. Необходима для критических распределенных систем, требующих согласованности и надежности.
Свойства согласованности
Набор формальных гарантий, обеспечивающих непротиворечивость информации и поведения между различными агентами системы. Согласованность предотвращает противоречия и обеспечивает целостность МАС в целом.
Проверка протоколов взаимодействия
Формальный анализ правил коммуникации и координации между агентами для обеспечения их корректного функционирования. Включает валидацию протоколов переговоров, кооперации и конкуренции.