Temperatur
Kurz gesagtDie Temperatur ist eine Einstellung dafür, wie zufällig ein Modell Wörter wählt: tief gibt stabile Antworten, hoch gibt vielfältigere.
Einfach erklärt
Bei jedem Schritt bewertet ein Modell alle möglichen nächsten Token und wählt dann eines. Die Temperatur ändert, wie es wählt. Bei einem tiefen Wert nimmt das Modell fast immer das wahrscheinlichste Wort. Bei einem hohen Wert nimmt es auch weniger wahrscheinliche, der Text schwankt stärker. Das Glossar von Anthropic sagt es so: Höhere Temperaturen geben kreativere und vielfältigere Ausgaben, tiefere geben vorsichtigere, berechenbarere Ausgaben, die bei der wahrscheinlichsten Formulierung bleiben.
Bereich und Standardwert unterscheiden sich je nach Anbieter und Modell. Einige neuere Modelle legen die Sampling-Einstellungen fest. Die Gemini-Doku von Google etwa sagt, dass bestimmte Gemini-Modelle eigene Werte für die Temperatur ignorieren, und rät, sie aus den Anfragen zu entfernen. Anthropic geht weiter: Aktuelle Claude-Modelle wie Opus 5.5 lehnen temperature, top_p und top_k mit einem Fehler ab und raten, das Modell über den Prompt zu steuern. Lies die Seite zu deinem Modell.
Warum es wichtig ist
- Passend zur Aufgabe: Für Datenauszug, Einordnung, Code und sachliche Antworten nimmst du einen tiefen Wert. Für Ideensuche, Slogans oder Geschichten gibt ein höherer Wert mehr Auswahl.
- Risiko: Mehr Zufall erhöht die Chance auf schiefe oder falsche Formulierungen, höhere Werte können also das Risiko einer Halluzination steigern.
- Wiederholbarkeit: Eine tiefe Temperatur erleichtert wiederholbare Tests. Gleiche Ausgabe garantiert sie nicht: Anthropic hält fest, dass die Ergebnisse selbst bei 0 nicht ganz deterministisch sind.
- Kein Preiseffekt: Die Temperatur ändert den Preis pro Token nicht.
Beispiel
Du bittest zweimal um fünf Slogans für eine Bäckerei. Bei tiefer Temperatur liefern beide Läufe fast dieselbe Liste. Bei höherer Temperatur bringt der zweite Lauf neue Ideen. Für das Auslesen von Rechnungsdaten willst du das Gegenteil: dieselben Felder, Lauf für Lauf. Darum bleibt der Wert tief.
Häufige Irrtümer
- «Temperatur 0 gibt jedes Mal dieselbe Antwort.» Nicht garantiert. Kleine Unterschiede können bleiben.
- «Eine hohe Temperatur macht das Modell klüger oder im Denken kreativer.» Sie macht nur die Wortwahl vielfältiger.
- «Jedes Modell hat diesen Regler.» Manche Modelle ignorieren ihn, aktuelle Claude-Modelle lehnen ihn ab.
Fragen und Antworten
Welche Temperatur ist gut?
Tief für Fakten, Datenauszug und Code, höher für Ideensuche und kreatives Schreiben. Starte mit dem Standardwert des Anbieters und ändere immer nur eine Einstellung.
Macht Temperatur 0 die Ausgabe deterministisch?
Nicht ganz. Das Glossar von Anthropic hält fest, dass gleiche Eingaben auch bei 0 verschiedene Ausgaben geben können.
Beeinflusst die Temperatur die Kosten?
Nein. Der Preis hängt an den Token, nicht an den Sampling-Einstellungen.
Weiterlesen
- Halluzination
Eine Halluzination ist eine flüssige, sicher klingende KI-Antwort, die falsch oder erfunden ist oder nicht zu den gegebenen Quellen passt.
- Inferenz
Inferenz heisst, ein trainiertes KI-Modell laufen zu lassen, damit es aus deiner Eingabe eine Ausgabe erzeugt, etwa die Antwort auf einen Prompt.
- Prompt
Ein Prompt ist die Eingabe an ein KI-Modell: deine Frage oder Aufgabe samt Anweisungen, Beispielen und Text, den es nutzen soll.
- Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein KI-System, das mit riesigen Textmengen lernt, das nächste Token vorherzusagen, und so schreibt, fasst zusammen und antwortet.