Distillation de Modèles

Knowledge Pruning

Processus combiné d'élagage de paramètres et de distillation où les poids les moins importants sont supprimés du modèle, puis la distillation compense la perte de performance résultant de l'élagage.

← Terug