Temperatur

Bei jedem Schritt bewertet ein Modell jedes Token seines Vokabulars und wandelt die Bewertungen in Wahrscheinlichkeiten um. Die Temperatur skaliert diese Bewertungen, bevor die Wahl fällt. Nahe null dominiert das wahrscheinlichste Token, und die Ausgabe wird fast deterministisch: Dieselbe Frage zweimal zu stellen liefert fast dieselbe Antwort. Um eins herum zieht das Modell im Einklang mit seinen rohen Wahrscheinlichkeiten. Noch höher flacht die Verteilung ab, überraschende Wörter erscheinen öfter, und der Text kann erfinderisch werden, dann unzusammenhängend. Stell dir eine Lostrommel vor: Eine niedrige Temperatur lässt nur die schwersten Kugeln drin, eine hohe lässt auch die leichtesten herausfallen.

In der Praxis hängt der richtige Wert von der Aufgabe ab. Ein Klauselextraktor, ein Unit-Test-Generator oder ein SQL-Helfer will niedrige Werte, bei denen Konstanz zählt und ein kreativer Umweg ein Fehler ist. Eine Slogan-Ideensammlung, eine Gutenachtgeschichte oder der Monolog eines Bösewichts will höhere, bei denen Abwechslung der Sinn ist. Niedrige Temperatur macht ein Modell aber nicht wahrhaftiger: Es kann dieselbe falsche Antwort mit perfekter Konstanz wiederholen.

Zwei verwandte Regler werden oft daneben gesetzt. Top_p, auch Nukleus-Sampling, behält nur die kleinste Gruppe von Tokens, deren Wahrscheinlichkeiten sich zu einem gewählten Anteil addieren, und zieht aus dieser Gruppe. Eine Stoppsequenz sagt dem Modell, wo seine Antwort endet. Ein Seed macht, wo ein Anbieter ihn unterstützt, eine Zufallswahl wiederholbar. Üblich ist der Rat, Temperatur oder top_p anzupassen, nicht beides zugleich. Mathematisch werden die Logits vor der Softmax-Funktion, die sie normalisiert, durch die Temperatur geteilt; die Teilung durch eine Zahl unter eins schärft die Spitzen, die Teilung durch eine Zahl über eins flacht die Landschaft ab und verteilt Wahrscheinlichkeit zum Rand hin.

Bei NeverNo akzeptiert die API temperature, top_p, stop und seed in einer Chat-Anfrage. Sie werden an die Modelle weitergegeben, die sie annehmen, und bei den anderen weggelassen, und die Modellliste sagt, welche Parameter jedes Modell unterstützt. Welche Parameter gelten, hängt vom Modell ab, prüfe die Liste also, bevor du dich auf einen verlässt. Qwen 3.5 35B, das kostenlose private Modell von Alibaba, das Bilder liest und dich wählen lässt, ob es nachdenkt, ist eines der offenen Modelle im Katalog.

Die Seite zum unzensierten KI-Chat zeigt, wie NeverNo offen antwortet und deinen Verlauf in deinem Browser hält. Was du auch für die Temperatur wählst, die festen Grenzen bleiben gleich: nichts mit Minderjährigen, nichts über reale Personen ohne deren Einwilligung und keine echte Hilfe, andere schwer zu schädigen.