Tokenization Subword

BPE Dropouts

Technique de régularisation introduisant de l'aléatoire dans le processus de tokenization BPE en ignorant certaines fusions pendant l'entraînement, améliorant la robustesse et la généralisation du modèle.

← Terug