Arbeiten mit KI
Englischer Fachbegriff: Temperature
Die Temperatur ist ein Regler, der bestimmt, wie vorhersehbar oder wie überraschend eine KI ihre Wörter wählt.
Wie die Wahl im Restaurant
Bei niedriger Temperatur bestellst du immer dein Lieblingsgericht: verlässlich, aber nie überraschend. Bei hoher Temperatur probierst du auch mal etwas von weiter unten auf der Karte. Meistens schmeckt es, manchmal ist es daneben.
Für Fakten, Zahlen und Zusammenfassungen ist eine niedrige Temperatur besser, weil die Antworten verlässlicher und gleichbleibender werden. Für Ideen, Slogans und Brainstorming darf sie höher sein. In den meisten Chat-Oberflächen kannst du die Temperatur nicht selbst einstellen, über Programmierschnittstellen (API) und in manchen Werkzeugen schon. Dass du auf dieselbe Frage oft verschiedene Antworten bekommst, liegt an genau diesem Zufall.
Dreh an der Temperatur und lass die KI das nächste Wort wählen.
Für diese Übung braucht es JavaScript im Browser.
Die Ausgangswerte sind zur Veranschaulichung gewählt, die Umrechnung ist echt.
Ein Sprachmodell berechnet für jedes mögliche nächste Token einen Rohwert. Daraus macht die Softmax-Funktion Wahrscheinlichkeiten, und dann wird gewürfelt. Die Temperatur greift vorher ein: Die Rohwerte werden durch sie geteilt. Ist die Temperatur niedrig, bekommt das stärkste Token fast alles ab. Ist sie hoch, rücken die Chancen näher zusammen. Neben der Temperatur gibt es weitere Regler wie Top-p, die seltene Tokens ganz ausschließen.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.