Глоссарий ИИ
Полный словарь искусственного интеллекта
Сигмоидная функция
Математическая функция S-образной формы, которая преобразует любое действительное значение в вероятность, находящуюся между 0 и 1, используемая как функция активации в логистической регрессии.
Функция логит
Логарифмическая функция связи, которая преобразует вероятности в логарифмическую шкалу, определяемая как натуральный логарифм шансов вероятности успеха.
Максимальное правдоподобие
Метод оценки параметров модели, который максимизирует вероятность наблюдения обучающих данных при заданных параметрах модели.
Смещение (Свободный член)
Постоянный член в уравнении логистической регрессии, представляющий базовую вероятность, когда все предикторные переменные равны нулю.
Веса (Коэффициенты)
Мультипликативные параметры, связанные с каждой предикторной переменной, которые количественно определяют их влияние на вероятность классификации.
Граница решения
Гиперплоскость или поверхность, которая разделяет различные классы в пространстве признаков, определяемая уравнением, где предсказанная вероятность равна 0.5.
Отношение шансов
Мера ассоциации, которая количественно определяет, как шансы результата изменяются при увеличении предикторной переменной на одну единицу, при условии, что все остальные переменные остаются постоянными.
L1-регуляризация (Lasso)
Техника регуляризации, которая добавляет сумму абсолютных значений коэффициентов к функции стоимости, способствуя автоматическому выбору переменных.
L2-регуляризация (Ridge)
Метод регуляризации, который добавляет сумму квадратов коэффициентов к функции потерь, уменьшая амплитуду коэффициентов для предотвращения переобучения.
Площадь под кривой (AUC)
Метрика оценки, измеряющая вероятность того, что модель случайным образом отнесет положительный пример выше, чем отрицательный, варьирующаяся от 0.5 до 1.
Порог классификации
Предельное значение вероятности (обычно 0.5), используемое для преобразования непрерывных вероятностей в прогнозы бинарных классов.
Правдоподобие
Функция, измеряющая вероятность наблюдения данных при заданных параметрах модели, используемая для оценки параметров в логистической регрессии.
Функция потерь (Log Loss)
Логарифмическая функция потерь, измеряющая расхождение между предсказанными вероятностями и фактическими метками, используемая для оптимизации модели.
Сходимость
Состояние, при котором последовательные итерации оптимизационного алгоритма больше не изменяют параметры модели значительно, указывая на достижение оптимума.
Несбалансированные классы
Ситуация, когда один класс значительно менее представлен, чем другой в обучающих данных, требующая применения техник семплирования или взвешивания.