Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Gradient Conjugué
Méthode itérative pour résoudre des systèmes d'équations linéaires et des problèmes d'optimisation non-linéaire, utilisant des directions conjuguées deux à deux pour garantir la convergence en un nombre fini d'itérations.
Méthode de Fletcher-Reeves
Algorithme de gradient conjugué qui calcule la nouvelle direction de recherche en utilisant le rapport des carrés des gradients, garantissant la conjugaison avec les directions précédentes.
Méthode de Polak-Ribière
Variante du gradient conjugué qui utilise une formule de mise à jour incluant les différences de gradients successifs, offrant souvent une meilleure convergence pour les fonctions non-linéaires.
Préconditionnement
Transformation du système original pour améliorer ses propriétés numériques, accélérant ainsi la convergence du gradient conjugué en réduisant le conditionnement de la matrice.
Vecteur conjugué
Ensemble de vecteurs orthogonaux par rapport à une matrice définie positive, garantissant que chaque nouvelle direction de recherche améliore la solution sans compromettre les directions précédentes.
Pas de gradient
Paramètre scalaire déterminant l'amplitude du déplacement dans la direction du gradient à chaque itération, crucial pour la stabilité et la vitesse de convergence.
Matrice de Hesse
Matrice des dérivées secondes partielles d'une fonction scalaire, fournissant des informations sur la courbure locale et essentielle dans les méthodes d'optimisation de second ordre.
Minimum global
Point dans le domaine où la fonction objectif atteint sa plus petite valeur sur tout l'espace de recherche, objectif ultime des algorithmes d'optimisation.
Méthode de Newton-Raphson
Algorithme itératif utilisant la matrice de Hesse pour approximer localement la fonction par une quadratique, offrant une convergence quadratique près du minimum.
Norme euclidienne
Mesure de la magnitude d'un vecteur dans l'espace euclidien, calculée comme la racine carrée de la somme des carrés de ses composantes.