Entrenamiento de modelos fundacionales · Pregunta 11 de 12
Una empresa farmacéutica dispone de 2 millones de artículos especializados sin etiquetar y 3.000 pares de pregunta-respuesta revisados. El modelo debe comprender el lenguaje especializado y responder a las preguntas en el formato de la empresa. ¿Qué secuencia tiene sentido?
1 respuesta es correcta. Difícil Creado con IA
Mostrar solución
Solución
- A Primero continued pre-training con los artículos, después fine-tuning con los pares
Explicación
Los textos de dominio sin etiquetar son adecuados para el continued pre-training, que transmite el lenguaje especializado. Los pares etiquetados se usan después para el fine-tuning del formato y la tarea. Un nuevo preentrenamiento con solo 3.000 ejemplos sería totalmente insuficiente.