Глоссарий ИИ
Полный словарь искусственного интеллекта
Метод сопряженных градиентов
Итерационный метод для решения систем линейных уравнений и нелинейных задач оптимизации, использующий попарно сопряженные направления для обеспечения сходимости за конечное число итераций.
Метод Флетчера-Ривза
Алгоритм сопряженных градиентов, который вычисляет новое направление поиска, используя отношение квадратов градиентов, гарантируя сопряженность с предыдущими направлениями.
Метод Полака-Рибьера
Вариант метода сопряженных градиентов, использующий формулу обновления, включающую разности последовательных градиентов, часто обеспечивающий лучшую сходимость для нелинейных функций.
Предобуславливание
Преобразование исходной системы для улучшения ее числовых свойств, ускоряя тем самым сходимость метода сопряженных градиентов путем уменьшения обусловленности матрицы.
Сопряженный вектор
Набор векторов, ортогональных относительно положительно определенной матрицы, гарантирующий, что каждое новое направление поиска улучшает решение, не компрометируя предыдущие направления.
Шаг градиента
Скалярный параметр, определяющий величину перемещения в направлении градиента на каждой итерации, критически важный для стабильности и скорости сходимости.
Матрица Гессе
Матрица частных производных второго порядка скалярной функции, предоставляющая информацию о локальной кривизне и являющаяся существенной в методах оптимизации второго порядка.
Глобальный минимум
Точка в области, где целевая функция достигает своего наименьшего значения во всем пространстве поиска, конечная цель алгоритмов оптимизации.
Метод Ньютона-Рафсона
Итерационный алгоритм, использующий матрицу Гессе для локального приближения функции квадратичной, обеспечивающий квадратичную сходимость вблизи минимума.
Евклидова норма
Мера величины вектора в евклидовом пространстве, вычисляемая как квадратный корень из суммы квадратов его компонент.