Entraînement des modèles de fondation · Question 9 sur 12
Quelles associations entre objectif et méthode d'entraînement sont appropriées ?
3 réponses sont correctes. Moyen Créé avec l’IA
Afficher la solution
Solution
- B Apprendre un langage spécialisé à partir de nombreux textes non étiquetés – pré-entraînement continu
- D Suivre des instructions dans un format fixe – instruction tuning
- E Un modèle plus petit et plus rapide pour un seul usage – distillation
Explication
Le pré-entraînement continu sur des textes d'un domaine transmet le langage et les connaissances d'un domaine, l'instruction tuning apprend à suivre des instructions, et la distillation transfère des capacités à un modèle plus petit. La compréhension de base du langage provient du pré-entraînement, et les données à jour du jour sont mieux fournies via le RAG.