Types d’inférence · Question 12 sur 12
Quelles exigences favorisent l'inférence asynchrone plutôt que l'inférence en temps réel ?
3 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- A Des temps de traitement de plusieurs minutes par requête
- B Le résultat peut être récupéré plus tard depuis Amazon S3
- D Des entrées de plusieurs centaines de mégaoctets
Explication
L'inférence asynchrone est conçue pour les charges utiles volumineuses et les longues durées d'exécution : les requêtes sont placées dans une file d'attente et le résultat est stocké dans S3, avec une notification en option. Pour des réponses en quelques millisecondes ou un dialogue interactif, l'inférence en temps réel est le bon choix.