Definition
Small Language Models tauschen allgemeine Fähigkeit gegen Kosten und Latenz. Für enge Aufgaben (Klassifizierung, strukturierte Extraktion, einfache Q&A) kann ein feinabgestimmtes 7B-Modell ein Frontier-Modell zu 1/30 der Kosten übertreffen. SLMs sind entscheidend für hochvolumige Anwendungsfälle und On-Device-KI.
Beispiel
Ein feinabgestimmtes Phi-3 (3,8B Parameter) für Rechnungsextraktion, das 100k Anfragen pro Tag zu je $0,0001 ausführt.
Wie Vedwix das verwendet
Die meisten Produktions-KI-Funktionen enden als feinabgestimmte SLMs. Wir beginnen mit Frontier-Modellen und steigen ab.
Sie arbeiten an einem Projekt rund um Small Language Model (SLM)?
Small Language Model (SLM).
Beschreiben Sie Ihr Projekt in drei Sätzen oder weniger.
Projekt starten