Paramètres d’inférence · Question 2 sur 12
À quoi sert le paramètre du nombre maximal de tokens de sortie ?
1 réponse est correcte. Facile Créé avec l’IA
Afficher la solution
Solution
- D Il limite la longueur de la réponse
Explication
La longueur de sortie maximale limite le nombre de tokens que le modèle génère au plus. Cela permet de maîtriser le coût et le temps de réponse. Si la valeur est trop faible, la réponse est coupée en pleine phrase.