Types d’inférence · Question 11 sur 12
Un assureur propose un outil de revue interne utilisé seulement quelques fois par jour. Chaque requête est petite, une réponse après une ou deux secondes convient, et les coûts doivent rester minimaux. Quelle option est la plus adaptée ?
1 réponse est correcte. Difficile Créé avec l’IA
Afficher la solution
Solution
- A L'inférence serverless
Explication
Avec des requêtes rares et petites, un endpoint en fonctionnement permanent resterait inactif la plupart du temps tout en générant des coûts. L'inférence serverless descend à zéro lorsqu'elle est inactive et ne facture que le temps de traitement réel. Des démarrages à froid occasionnels sont acceptables ici, car un délai d'une seconde est toléré.