Definición
Los modelos de lenguaje pequeños cambian capacidad general por costo y latencia. Para tareas estrechas (clasificación, extracción estructurada, Q&A simple), un modelo de 7B ajustado finamente puede superar a un modelo de frontera a 1/30 del costo. Los SLMs son cruciales para casos de uso de alto volumen y para IA en dispositivos.
Ejemplo
Un Phi-3 ajustado finamente (3.8B parámetros) para extracción de facturas, ejecutando 100k solicitudes por día a $0.0001 cada una.
Cómo Vedwix usa esto
La mayoría de las funciones de IA en producción terminan como SLMs ajustados finamente. Comenzamos con modelos de frontera y graduamos hacia abajo.
Trabajando en un proyecto de Modelo de lenguaje pequeño (SLM)?
Modelo de lenguaje pequeño (SLM).
Cuéntanos sobre tu proyecto en tres frases o menos.
Iniciar un proyecto