Глоссарий ИИ
Полный словарь искусственного интеллекта
Атакующее тестирование
Метод оценки, заключающийся в представлении модели примеров, специально разработанных для вызова ошибок прогнозирования, выявляя её уязвимости к целевым атакам.
Обнаружение сдвига распределения
Процесс идентификации изменений в распределении входных данных по сравнению с обучающими данными, критически важный для поддержания производительности модели в производственной среде.
Стресс-тестирование
Интенсивная оценка границ модели путём её подачи в экстремальные или необычные условия для идентификации потенциальных точек отказа.
Анализ возмущений
Систематическое исследование влияния небольших изменений во входных данных на прогнозы модели, измеряя её чувствительность к вариациям.
Метрики робастности
Количественные показатели, позволяющие измерить устойчивость модели к возмущениям, такие как точность при наличии шума или вариация прогнозов.
Проверка входных данных
Процесс проверки входных данных для обеспечения их соответствия ожидаемым ограничениям, защищающий модель от вредоносных или недействительных входов.
Тестирование границ
Оценка поведения модели на границах её пространства решений, где прогнозы наиболее подвержены изменениям при незначительных возмущениях.
Калибровка модели
Настройка показателей уверенности модели так, чтобы они точно отражали реальную вероятность правильности прогнозов.
Стабильность важности признаков
Оценка согласованности важности признаков при различных возмущениях данных, измеряющая надежность интерпретируемости модели
Устойчивость адаптации к домену
Способность модели поддерживать свою производительность при столкновении с данными из доменов, незначительно отличающихся от обучающих
Тестирование устойчивости к выбросам
Оценка способности модели обрабатывать выбросы без значительного снижения ее прогностической производительности
Временная устойчивость
Измерение стабильности прогнозов модели перед лицом временных изменений паттернов данных, особенно важное для временных рядов
Тестирование атак на основе градиентов
Моделирование атак, использующих градиенты модели для создания оптимальных возмущений, максимизирующих ошибки прогнозирования