Inferenzarten · Frage 10 von 12
Welche Eigenschaften hat die serverlose Inferenz von Amazon SageMaker AI?
2 Antworten sind richtig. Mittel
Lösung anzeigen
Lösung
- A Nach Pausen verzögert ein Kaltstart die Antwort
- D Ohne Anfragen fallen keine Instanzkosten an
Erklärung
Serverlose Endpunkte skalieren automatisch bis auf null und werden nach Rechenzeit abgerechnet, ideal für unregelmäßigen Verkehr. Der Preis dafür sind Kaltstarts nach Ruhephasen. GPUs werden bei serverloser Inferenz nicht unterstützt, und die Antwort kommt direkt zurück, nicht über S3 wie bei der asynchronen Variante.