Definition
Die Temperatur steuert die Zufälligkeit der LLM-Stichprobenentnahme. Bei 0 wählt das Modell den Token mit der höchsten Wahrscheinlichkeit bei jedem Schritt (deterministisch). Bei 1 wird normal abgetastet. Über 1 wird es zunehmend zufällig und kreativ — nützlich für Ideenfindung, gefährlich für Produktion. Die meisten Produktions-Endpunkte setzen die Temperatur auf 0 oder nahe Null.
Beispiel
Ein SQL-Generator läuft bei Temperatur 0 — Sie wollen jedes Mal die gleiche Abfrage. Ein Brainstorming-Assistent läuft bei 0,7 — Sie wollen Vielfalt.
Wie Vedwix das verwendet
Standard ist 0 für Produktion. Alles über 0,5 braucht einen klaren Grund.
Sie arbeiten an einem Projekt rund um Temperatur?
Temperatur.
Beschreiben Sie Ihr Projekt in drei Sätzen oder weniger.
Projekt starten