Personalización de modelos · Pregunta 12 de 12

Un equipo añade 30 ejemplos a cada prompt para que el modelo respete un formato especial. Con millones de llamadas al mes, los costes de tokens se disparan. ¿Qué opciones tienen sentido?

2 respuestas son correctas. Difícil Creado con IA

Mostrar solución

Solución

  • C Hacer fine-tuning de un modelo sobre el formato
  • E Almacenar en caché el bloque invariable de ejemplos con prompt caching

Explicación

Con un volumen alto, el fine-tuning puede resultar rentable, porque después ya no hace falta incluir los ejemplos en cada prompt. El prompt caching reduce el coste del bloque recurrente. Más ejemplos elevan aún más los costes, y el preentrenamiento propio es completamente desproporcionado.

Certificaciones y exámenes

¿Qué examen viene después?

Ya puedes practicar 51 exámenes y 16 están en votación. Mira todas las certificaciones con información oficial, vota o propón tu examen.

Ver todas las certificaciones