इन्फ़रेंस के प्रकार · प्रश्न 12 / 12
किन आवश्यकताओं में real-time inference के बजाय asynchronous inference बेहतर है?
3 उत्तर सही हैं। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- A प्रति अनुरोध कई मिनट का प्रोसेसिंग समय
- B परिणाम बाद में Amazon S3 से लिया जा सकता है
- D कई सौ मेगाबाइट के इनपुट
व्याख्या
Asynchronous inference बड़े payload और लंबे रन टाइम के लिए बना है: अनुरोध queue में जाते हैं और परिणाम S3 में सहेजा जाता है, वैकल्पिक रूप से सूचना के साथ। मिलीसेकंड में उत्तर या इंटरैक्टिव संवाद के लिए real-time inference सही विकल्प है।