Training von Foundation Models · Frage 11 von 12
Ein Pharmaunternehmen hat 2 Millionen ungelabelte Fachartikel und 3.000 geprüfte Frage-Antwort-Paare. Das Modell soll Fachsprache verstehen und Fragen im Firmenformat beantworten. Welcher Ablauf ist sinnvoll?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- A Erst Weitertraining mit den Artikeln, dann Feinabstimmung mit den Paaren
Erklärung
Ungelabelte Fachtexte eignen sich für Continued Pre-Training, das Fachsprache vermittelt. Die gelabelten Paare nutzt man danach für die Feinabstimmung auf Format und Aufgabe. Ein neues Vortraining mit nur 3.000 Beispielen wäre völlig unzureichend.