LoRA (Low-Rank Adaptation)

LoRA rank hyperparameter

Paramètre déterminant la dimension des matrices de faible rang dans la décomposition LoRA, contrôlant le compromis entre expressivité et efficacité. Des rangs typiques varient de 4 à 64 selon la complexité de la tâche d'adaptation.

← Retour