Training von Foundation Models · Frage 9 von 12
Welche Zuordnungen von Ziel und Trainingsmethode sind passend?
3 Antworten sind richtig. Mittel
Lösung anzeigen
Lösung
- B Fachsprache aus vielen ungelabelten Texten lernen – Continued Pre-Training
- D Anweisungen in einem festen Format befolgen – Instruction Tuning
- E Kleineres, schnelleres Modell für einen Zweck – Destillation
Erklärung
Weitertraining mit Fachtexten vermittelt Sprache und Wissen eines Gebiets, Instruction Tuning das Befolgen von Anweisungen, Destillation überträgt Fähigkeiten auf ein kleineres Modell. Grundlegendes Sprachverständnis entsteht im Vortraining, tagesaktuelle Daten liefert man besser per RAG.