Глоссарий ИИ
Полный словарь искусственного интеллекта
Выборка Метрополиса-Хастингса
Алгоритм MCMC, который генерирует выборки из распределения вероятностей, строя цепь Маркова, стационарное распределение которой является целевым распределением. Использует коэффициент принятия для решения, принимается ли новый образец или отклоняется.
Метод отклонения
Техника выборки, где точки извлекаются из предложенного распределения и принимаются с вероятностью, пропорциональной отношению между целевой плотностью и плотностью предложения. Особенно эффективна для выборки сложных распределений.
Алгоритм Роббинса-Монро
Метод стохастической аппроксимации для нахождения корней уравнений, когда доступен только шум наблюдений. Сходится к решению с убывающим адаптивным шагом, гарантирующим сходимость почти наверняка.
Квази-Монте-Карло методы
Детерминированные варианты методов Монте-Карло, использующие последовательности с низкой дисперсией вместо чистых случайных чисел. Обеспечивают более быструю сходимость в умеренной размерности, сохраняя свойства равномерности.
Процесс Пуассона
Стохастический процесс подсчета, моделирующий возникновение редких независимых событий с постоянной скоростью. Фундаментальный в моделировании явлений прибытия и в стохастической оптимизации.
Стохастическая оптимизация градиентом
Метод итеративной оптимизации, использующий зашумленные оценки градиента для продвижения к оптимуму. Особенно подходит для задач большой размерности, где вычисление точного градиента дорогостоящее.
Снижение дисперсии
Набор техник, направленных на уменьшение дисперсии оценок Монте-Карло без увеличения количества образцов. Включает антитетическую выборку, контроль и стратификацию для повышения вычислительной эффективности.
Антитетический метод
Техника снижения дисперсии, использующая пары отрицательно коррелированных образцов для частичного отмены вариаций. Особенно эффективна для монотонных функций и симметричных интегралов.
Остаточная выборка
Взвешенный метод выборки, гарантирующий точную мощность выборки при сохранении весов важности. Сочетает систематическую выборку и остаточное выделение для минимальной дисперсии.
Стохастический метод Нелдера-Мида
Стохастическая адаптация симплекс-алгоритма Нелдера-Мида, включающая случайные возмущения для избежания локальных минимумов. Сочетает эффективность симплекса с робастностью случайного исследования.
Стохастический генетический алгоритм
Эволюционный метод оптимизации, использующий вероятностные генетические операторы (отбор, скрещивание, мутация) для исследования пространства поиска. Стохастический отбор поддерживает генетическое разнообразие и предотвращает преждевременную сходимость.