Глоссарий ИИ
Полный словарь искусственного интеллекта
Линейный дискриминантный анализ (LDA)
Статистический метод контролируемого понижения размерности, который проецирует данные в пространство меньшей размерности, максимизируя разделимость между предварительно определенными классами.
Линейный дискриминант Фишера
Оригинальная формулировка LDA, предложенная Рональдом Фишером в 1936 году, направленная на нахождение линейной проекции, которая максимизирует отношение между межклассовой дисперсией и внутриклассовой дисперсией.
Межклассовая матрица рассеяния
Матрица S_B, измеряющая дисперсию центроидов классов вокруг глобального центроида, количественно оценивающая разделение между различными классами в пространстве признаков.
Внутриклассовая матрица рассеяния
Матрица S_W, представляющая дисперсию выборок вокруг их соответствующих центроидов классов, измеряющая внутриклассовую сплоченность данных.
Собственное разложение
Математический процесс, состоящий в разложении матрицы S_W⁻¹S_B для извлечения собственных векторов, которые определяют оптимальные дискриминантные оси в LDA.
Дискриминантная функция
Линейная математическая функция f(x) = w^T x + b, где w - дискриминантный вектор, используемая для проецирования данных и принятия классификационных решений.
Центроиды классов
Репрезентативные средние точки каждого класса, вычисленные как среднее векторов признаков всех выборок, принадлежащих этому конкретному классу.
Ковариационная матрица
Квадратная матрица Σ, содержащая ковариации между всеми парами переменных, необходимая для характеристики структуры внутриклассовой дисперсии в LDA.
Матрица проекции
Матрица W, состоящая из выбранных собственных векторов как столбцов, используемая для преобразования данных из размерности d в подпространство пониженной размерности.
Контролируемое понижение размерности
Подход к понижению размерности, использующий метки классов для направления преобразования, в отличие от неконтролируемых методов, таких как PCA, которые игнорируют эту информацию.
Разделимость классов
Количественная мера различия между различными классами в проецируемом пространстве, максимизируемая LDA через оптимизацию отношения Рэлея.
Отношение Рэлея
Отношение J(w) = (w^T S_B w)/(w^T S_W w), оптимизируемое в LDA для нахождения направлений проекции, максимизирующих межклассовую разделимость относительно внутриклассового разброса.
Канонический дискриминантный анализ
Многомерное расширение LDA, находящее канонические линейные комбинации, которые наилучшим образом разделяют группы, эквивалентное дискриминантному анализу в многомерном контексте.
Линейный классификатор
Модель классификации, использующая линейные границы решений в пространстве, преобразованном LDA, где классы разделяются гиперплоскостями.
Граница решения
Гиперплоскость, разделяющая классы в дискриминантном пространстве, математически определяемая как множество точек, где дискриминантные функции смежных классов равны.
Собственные векторы
Собственные векторы матрицы S_W⁻¹S_B, представляющие оптимальные направления проекции, которые максимизируют разделимость классов, упорядоченные по соответствующим собственным значениям.
Коэффициент рассеяния
Отношение межклассового рассеяния к внутриклассовому, служащее критерием оптимизации в LDA, где высокое значение коэффициента указывает на лучшую разделимость классов.
Многоклассовый LDA
Обобщение бинарного LDA на случай K классов, производящее не более K-1 дискриминантных осей для максимизации одновременного разделения между всеми парами классов.