Types d’inférence · Question 10 sur 12
Quelles propriétés l'inférence serverless d'Amazon SageMaker AI possède-t-elle ?
2 réponses sont correctes. Moyen Créé avec l’IA
Afficher la solution
Solution
- A Après des périodes d'inactivité, un démarrage à froid retarde la réponse
- D Aucun coût d'instance ne survient sans requêtes
Explication
Les points de terminaison serverless descendent automatiquement à zéro et sont facturés selon le temps de calcul, ce qui convient à un trafic irrégulier. La contrepartie est le démarrage à froid après des périodes d'inactivité. Les GPU ne sont pas pris en charge pour l'inférence serverless, et la réponse est renvoyée directement, et non via S3 comme avec l'option asynchrone.