Ajuste fino

Definición

El ajuste fino toma un modelo preentrenado y continúa entrenándolo en un conjunto de datos más pequeño y enfocado. El resultado es un modelo que rinde mejor en su tarea específica, generalmente con menor latencia y costo que llamar a un modelo de frontera. Para tareas de alto volumen (clasificación, extracción, salida estructurada), los modelos pequeños ajustados pueden ser 10-40 veces más baratos que llamar a GPT-4 o Claude, con calidad comparable en la tarea específica.

Ejemplo

Ajuste fino de un modelo Llama 3 sobre 50.000 tickets de soporte para clasificar y etiquetar automáticamente los problemas entrantes.

Cómo Vedwix usa esto

Cuando un cliente tiene una tarea de alto volumen (más de ~10.000 solicitudes por día), recomendamos un ajuste fino sobre una llamada API casi siempre. La diferencia de costo suele ser del 95%+.