Un modèle plus petit peut-il garder les informations d’un grand ?
Vous faites extraire des événements de livraison par un modèle enseignant, puis transmettez ses probabilités à un étudiant plus petit. Le tutoriel compare cette distillation à un SFT sur les mêmes exemples et mesure qualité, erreurs et coût.