मॉडलों का अनुकूलन · प्रश्न 12 / 12
एक टीम मॉडल को खास फ़ॉर्मैट में रखने के लिए हर prompt में 30 उदाहरण जोड़ती है। हर महीने लाखों कॉल होने पर टोकन की लागत बहुत बढ़ जाती है। कौन-से विकल्प सही बैठते हैं?
2 उत्तर सही हैं। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- C मॉडल को उस फ़ॉर्मैट पर fine-tune करना
- E उदाहरणों के अपरिवर्तित ब्लॉक को prompt caching से cache करना
व्याख्या
ज़्यादा वॉल्यूम पर fine-tuning फ़ायदेमंद हो सकती है, क्योंकि फिर उदाहरणों को हर prompt में रखने की ज़रूरत नहीं रहती। Prompt caching बार-बार आने वाले ब्लॉक की लागत घटाती है। और उदाहरण जोड़ने से लागत और बढ़ती है, और अपनी pre-training अनुपात से बहुत बड़ी है।