Was macht generative KI eigentlich?
Generative KI-Modelle, wie ChatGPT, erzeugen Inhalte (z. B. Texte), indem sie Schritt für Schritt vorhersagen, welches Token – also welches nächste Zeichen oder Wortteil – wahrscheinlich am besten passt. Diese Vorhersage basiert auf Wahrscheinlichkeiten, die das Modell im Training gelernt hat.
Die Herausforderung: Es gibt oft nicht nur eine richtige Antwort, sondern viele denkbare Fortsetzungen. Genau hier kommen die Parameter Temperatur und Top_p ins Spiel – sie steuern, wie viele und welche dieser Optionen berücksichtigt werden.
1. Temperatur – Wie „mutig“ ist die KI?
Die Temperatur bestimmt, wie zufällig oder fokussiert die Auswahl der Wörter ist.
-
Niedrige Temperatur (z. B. 0,2 – 0,5):
Die KI wählt fast immer das wahrscheinlichste Wort → sachliche, klare, oft vorhersehbare Antworten.
Nützlich für technische, präzise oder reproduzierbare Aufgaben. -
Hohe Temperatur (z. B. 0,8 – 1,0):
Die KI bezieht auch weniger wahrscheinliche Wörter mit ein → kreativere, abwechslungsreichere Texte – aber auch mehr Halluzinationen oder unklare Aussagen möglich.
Nützlich für kreative Aufgaben, Brainstormings oder Schreibanlässe.
Merksatz: Je höher die Temperatur, desto kreativer (und riskanter) wird die KI.
2. Top_p – Wie „breit“ denkt die KI?
Top_p (auch bekannt als Nucleus Sampling) legt fest, welche Bandbreite an Möglichkeiten überhaupt in Betracht gezogen wird.
-
Top_p = 1,0:
Alle möglichen Wörter (auch sehr unwahrscheinliche) dürfen gewählt werden. -
Top_p = 0,9:
Nur die wahrscheinlichsten Wörter, die zusammen 90 % der Gesamtwahrscheinlichkeit ausmachen, werden berücksichtigt. -
Top_p = 0,05:
Nur sehr „sichere“ Wörter sind erlaubt – enges Spektrum.
Beispiel:
Stellen Sie sich vor, 10 Wörter stehen zur Auswahl. Bei Top_p = 0,9 nimmt das Modell nur die Wörter mit den höchsten Einzelwahrscheinlichkeiten – solange ihre Summe 90 % erreicht. Alles andere wird ignoriert.
3. Wie wirken Temperatur und Top_p zusammen?
Die beiden Parameter beeinflussen sich gegenseitig. In der Praxis funktioniert diese Kombination besonders gut:
Anwendungsfall | Temperatur | Top_p | Beschreibung |
Kreatives Schreiben | 0,7 | 0,8 | Erzeugt kreative und vielfältige Texte für das Geschichtenerzählen. Die Ausgabe ist explorativer und weniger durch Muster eingeschränkt. |
Chatbot-Antworten | 0,5 | 0,5 | Erzeugt Gesprächsantworten, die Kohärenz und Vielfalt in Einklang bringen. Die Ausgabe ist natürlicher und ansprechender. |
Skripterstellung für Datenanalysen | 0,2 | 0,1 | Erzeugt Skripte für Datenanalysen, die mit höherer Wahrscheinlichkeit korrekt und effizient sind. Die Ausgabe ist deterministischer und fokussierter. |
4. Warum das wichtig ist – auch für Einsteiger*innen
Die bewusste Steuerung dieser Parameter hilft dabei:
-
Antworten besser zu verstehen und zu bewerten
-
Die Qualität von KI-Inhalten zu erhöhen
-
Ergebnisse zu reproduzieren oder gezielt zu variieren
-
Kreativität zu fördern – oder einzudämmen
Gerade für KMU, Bildungseinrichtungen oder Kreativteams kann das entscheidend sein, um generative KI sicher und sinnvoll einzusetzen.
Fazit
Temperatur und Top_p sind keine komplizierten Technikbegriffe – sondern praktische Werkzeuge, um generative KI verlässlicher, kreativer oder klarer zu gestalten. Wer diese Stellschrauben versteht, holt mehr aus generativen KI-Anwendungen heraus – und kann besser einschätzen, ob eine Antwort zufällig, sicher oder „halluziniert“ ist.