Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Machine à Vecteurs de Support
Algorithme d'apprentissage supervisé utilisé pour la classification et la régression, cherchant l'hyperplan optimal qui sépare les classes avec la marge maximale possible. Les SVM reposent sur des principes statistiques et mathématiques robustes pour garantir une bonne généralisation.
Hyperplan de séparation
Sous-espace affine de dimension n-1 dans un espace à n dimensions qui divise cet espace en deux demi-espaces distincts. Dans les SVM linéaires, l'hyperplan optimal maximise la distance minimale entre les points des différentes classes.
Fonction de décision
Expression mathématique f(x) = w·x + b qui permet de classer un nouveau point en fonction de sa position par rapport à l'hyperplan. Le signe de cette fonction détermine l'appartenance à une classe tandis que sa valeur absolue mesure la confiance de la classification.
Formulation primale
Représentation mathématique originale du problème d'optimisation SVM qui minimise directement la norme du vecteur poids sous contraintes de classification correcte. Cette formulation met en évidence l'objectif de maximisation de la marge de manière intuitive.
Optimisation convexe
Domaine des mathématiques appliquées traitant de la minimisation de fonctions convexes sur des ensembles convexes, garantissant l'existence et l'unicité de la solution optimale. Les SVM bénéficient de cette propriété pour assurer la convergence vers la solution globale.
Variable de Lagrange
Multiplicateurs introduits pour transformer un problème d'optimisation sous contraintes en un problème sans contraintes équivalent. Dans les SVM, ces variables indiquent quels points d'entraînement deviennent des vecteurs de support.
Noyau linéaire
Fonction noyau la plus simple qui calcule directement le produit scalaire entre deux vecteurs dans l'espace d'origine sans transformation. Le noyau linéaire est utilisé lorsque les classes sont linéairement séparables et offre une interprétabilité maximale du modèle.
Paramètre C
Hyperparamètre de régularisation des SVM qui détermine le compromis entre la maximisation de la marge et la minimisation des erreurs de classification sur l'ensemble d'entraînement. Une valeur élevée de C favorise moins d'erreurs mais peut conduire au surapprentissage.
Méthode des multiplicateurs de Lagrange
Approche mathématique pour résoudre des problèmes d'optimisation sous contraintes en introduisant des variables multiplicatrices associées à chaque contrainte. Cette méthode est fondamentale pour la résolution du problème d'optimisation SVM.
Problème de séparation linéaire
Cas théorique où un hyperplan peut parfaitement séparer les points de différentes classes sans erreur de classification. Les SVM linéaires sont optimisés pour trouver la meilleure séparation possible même lorsque les classes ne sont pas parfaitement séparables.
Classifieur linéaire optimal
Modèle de classification linéaire qui maximise la marge entre les classes, garantissant théoriquement la meilleure capacité de généralisation parmi tous les classifieurs linéaires possibles. L'optimalité est démontrée par la théorie statistique de l'apprentissage.
Métrique de distance
Fonction mathématique définissant la notion de distance entre points dans l'espace de caractéristiques, essentielle pour le calcul de la marge dans les SVM. La distance euclidienne est généralement utilisée pour mesurer l'éloignement par rapport à l'hyperplan.
Convergence de l'algorithme
Propriété garantie des algorithmes d'optimisation SVM d'atteindre la solution optimale en un nombre fini d'itérations grâce à la nature convexe du problème. Cette convergence assure la reproductibilité et la fiabilité des résultats obtenus.