ChatGPT-Trick: Tonalität und Fantasie über „Temperatur“-Faktor anpassen

ChatGPT von OpenAI, die derzeit wohl bekannteste Chatbot-KI, lässt sich in verschiedenen Bereichen nutzen. Gerade in kreativen Szenarien kann die künstliche Intelligenz bei der Ideenfindung, bei der Weiterentwicklung eines Konzepts oder bei ähnlichen Aufgaben helfen. 

Doch was ist, wenn die ausgegebenen Antworten von ChatGPT zu sachlich, strikt und geradlinig sind? Nun, dann lassen sich Antworten über die sogenannte Temperatur anpassen. Gibt man diesem Faktor in der Anfrage einen Wert zwischen 0 und 2, können Tonalität und Fantasie-Level gesteuert werden. Ich habe im Folgenden die Details dazu zusammengefasst.

Was genau bewirkt die Festlegung des Temperatur-Werts bei ChatGPT?

Das KI-Modell hinter OpenAIs Chatbot funktioniert, indem für die gestellte Anfrage sowie für die bereits in der Antwort genutzten Wörter die wahrscheinlichsten Folgewörter ausgewählt werden. Das heißt, erst durchläuft die Anfrage das Modell und dann wird eine Antwort begonnen. Im ermittelten Kontext durchläuft diese Antwort dann Stück für Stück nochmals das Modell, um das nächste Wort und den nächsten Absatz zu finden.

Dabei stehen in jedem Schritt verschiedene Wörter, Phrasen, Satzzeichen und dergleichen zur Verfügung. Sie haben jeweils einen bestimmten Prozentsatz, der die Wahrscheinlichkeit für die Nutzung in der Antwort angibt, die zusammengebaut wird. Ist der Temperatur-Wert niedrig gewählt, dann geht ChatGPT auf Nummer Sicher und wählt die Wörter mit der höchsten Folgewahrscheinlichkeit aus. Ist der Temperatur-Wert höher, wird zufälliger ausgewählt, wodurch auch weniger wahrscheinliche Komponenten in die Antwort einfließen können.

Wofür eignet sich der Temperatur-Parameter von ChatGPT?

Um für verschiedene Anfragen aus unterschiedlichen Bereichen jeweils durchschnittlich gute Antworten zu bekommen, muss der Temperatur-Parameter von ChatGPT nicht unbedingt angepasst werden. Mit einem Standard-Wert von 1 sind die Tonalität und die Zufälligkeit der Antworten ziemlich ausgeglichen. In Bereichen, in denen allerdings eine klare, stringente Antwort nötig ist – Programmierung, kurze Faktenabfrage, Anleitungen, etc. – kann es sich lohnen, den Wert unter 1 zu setzen; also etwa 0.8, 0.5 oder gar 0.2.

Nutzt man ChatGPT im kreativen Bereich oder will bestimmte Ideen etwas umgangssprachlicher formuliert haben, kann sich eine Anpassung über den Wert 1 lohnen. Auch hier kann man zwischen 1 und 2 mit Zwischenschritten herumspielen, um das für die Anfrage beste Level an Zufälligkeit zu ermitteln. Zu beachten ist dabei, dass je höher die Temperatur gewählt wird, auch die Wahrscheinlichkeit für „Halluzinationen“, also ausgedachte Informationen steigt. Deshalb würde ich die höheren Werte nur für Kreativaufgaben empfehlen.

Warum kann 0.1 besser sein als 0?

Bei der Recherche zum Thema bin ich auf ein paar Meldungen in Support-Foren und ähnlichen Webseiten gestoßen, bei denen berichtet wurde, dass ein Wert von 0 bei der Auswertung von Daten zu Halluzinationen führte. ChatGPT bekam Dateien mit bestimmten Datensätzen gefüttert und wurde mit der Eingabe Temperatur=0 zu nüchternen, stringenten Antworten aufgefordert. Dennoch wurden Daten und Aussagen erfunden. Der Fehler kann dabei im Wert 0 liegen.

Denn in einer Antwort auf diesen Bericht wird vermutet, dass der Wert 0 nicht „nüchternste Antwort“ bedeutet, sondern „Wert ist egal“. Der Zusatz Temperatur=0 könnte also ChatGPT die Anweisung geben, sich selber einen Wert auszusuchen. Als Lösung dafür wird angeraten, den Wert auf 0.01 zu setzen (Quelle). Um bei den einfachen Dezimalzahlen zu bleiben, sollte auch 0.1 zum Ziel führen. Aber wie immer gilt: bei der Abfrage von Fakten, News, historischen Informationen und Daten aus Datenbanken solltet ihr immer die Chatbot-Antworten durch eine eigene Recherche überprüfen.

Warum kann 1.9 besser sein als 2?

Bei einem eigenen Test mit ChatGPT-Anfragen, bei denen ich zwar die gleiche Frage, aber jedes Mal einen anderen Temperatur-Wert genutzt habe, kam mir die Antwort mit dem Wert 2 ähnlich wie die Antwort mit dem Wert 0.1 vor. Einen größeren Unterschied zum kleinsten Wert konnte ich mit Temperatur=1.8 feststellen. Die Extremwerte 0 und 2 sollte man also vielleicht nicht als erste Wahl ansehen, wenn man komplett stringente oder komplett wilde Antworten bekommen möchte.

Bei der Nutzung welcher ChatGPT-Modelle kann die Temperatur genutzt werden?

Laut dem offiziellen OpenAI-Support kann die Temperatur bei folgenden Modellen angepasst werden, um die Antworten des Chatbots zu beeinflussen: gpt-3.5-turbo-0125 (empfohlen), gpt-3.5-turbo-1106, gpt-3.5-turbo-0613, babbage-002, davinci-002, gpt-4-0613 (experimentell) und gpt-4o-2024-05-13. Stand: 18. Juli 2024, Quelle.

Bei welchen Anfragen ich kaum Unterschiede festgestellt habe

Ich habe für diesen Beitrag einen kleinen Vergleichstest mit der aktuell kostenlos verfügbaren Version von gpt-4o durchgeführt (Stand: 18. Juli 2024). Dabei sind mir die größten Unterschiede vor allem dann aufgefallen, wenn ich eine kreative Anfrage gestellt bzw. eine Kreativaufgabe gegeben habe. Habe ich dabei keine weitere Einschränkung genannt, außer natürlich der Temperatur, wurde mir die größte Varianz an Antworten präsentiert.

Wo es in Tonalität und vor allem im allgemeinen Inhalt so gut wie keine Unterschiede gab, waren thematisch eingeschränkte und auch in der Wortzahl begrenzte Anfragen. Ich habe für „Beschreibe in 75 Wörtern oder weniger, was in einem Blogbeitrag zum Apple Mac enthalten sein sollte.“ bei Nutzung der Werte 0.1, 0.8, 1.2 und 1.9 im Grunde immer die gleichen Infos und Ideen präsentiert bekommen, nur immer etwas abgewandelt und anders umschrieben. 

Fazit: Probieren geht über Studieren

Als Ausgangspunkt für die weitere Recherche zum Thema kann ich die offizielle ChatGPT-Dokumentation von OpenAI empfehlen – zum Beispiel die Seite zum Feintuning. Allerdings kann es für individuelle Anwendungsfälle auch helfen, einfach mit dem Anpassungswert herumzuspielen. Dazu kann nach der ersten Anfrage im gleichen Chat einfach „temperature=…“ verwendet werden. Die Antwort wird dann entsprechend neu gestaltet. So kann man sich das Passende aus dem Chat heraussuchen.

Johannes Domke

Johannes hat nach dem Abitur eine Ausbildung zum Wirtschaftsassistenten in der Fachrichtung Fremdsprachen absolviert. Danach hat er sich aber für das Recherchieren und Schreiben entschieden, woraus seine Selbstständigkeit hervorging. Seit mehreren Jahren arbeitet er nun u. a. für Sir Apfelot. Seine Artikel beinhalten Produktvorstellungen, News, Anleitungen, Videospiele, Konsolen und einiges mehr. Apple Keynotes verfolgt er live per Stream.