Inferenzarten · Frage 12 von 12
Welche Anforderungen sprechen für asynchrone statt für Echtzeit-Inferenz?
3 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- A Verarbeitungszeiten von mehreren Minuten pro Anfrage
- B Ergebnis darf später aus Amazon S3 abgeholt werden
- D Eingaben von mehreren Hundert Megabyte
Erklärung
Asynchrone Inferenz ist für große Nutzlasten und lange Laufzeiten gebaut: Anfragen landen in einer Warteschlange, das Ergebnis wird in S3 abgelegt, optional mit Benachrichtigung. Für Antworten im Millisekundenbereich oder einen interaktiven Dialog ist dagegen Echtzeit-Inferenz richtig.