Distillation de Modèles

Cross-architecture Distillation

Méthode de transfert de connaissances entre modèles d'architectures différentes, comme distiller un transformer vers une architecture CNN ou RNN, permettant une flexibilité dans le déploiement cible.

← Wstecz