Eines der Probleme, das mit der zunehmenden Nutzung von ChatGPT immer wieder an die Oberfläche kommt, ist die gelegentliche Einschließung offensichtlich falscher Informationen in den Antworten, die genau als Halluzinationen beschrieben wurden. Die Frage ist, warum tritt dies auf und kann es kontrolliert werden? Bei einer einfachen OpenAI-API-Abfrage stießen wir auf die Variable Temperatur, die zwischen 0 und 1 liegen kann und die “die Kreativität der Antwort” steuert.
Temperatur ist nicht spezifisch für OpenAI; es gehört mehr zu den Ideen der natürlichen Sprachverarbeitung (NLP). Während große Sprachmodelle (LLM) den aktuellen Höhepunkt in der Textgenerierung für einen bestimmten Kontext darstellen, hat diese grundlegende Fähigkeit, das nächste Wort herauszufinden, mit der vorhersagenden Texteingabe auf Ihrem Telefon seit Jahrzehnten zur Verfügung gestanden. Es ist wichtig zu verstehen, wo die Variationen herkommen und wie ein einfaches Modell von Beispielen lernt.
Das Anheben der Temperatur hat den Effekt, dass die Kurve abgeflacht wird und den weniger wahrscheinlichen Antworten einen Schub verleiht. Wenn die Temperatur null ist, kann das Modell nur das wahrscheinlichste Token auswählen. Die Anpassung der Temperatur an die Aufgabe hilft, kreative Ausgaben von sachlichen Ausgaben zu unterscheiden. Halluzinationen können auftreten, wenn die Temperatur zu hoch für sachliche Informationen ist.
Insgesamt erkennen wir LLMs als sozial positiv. Letztendlich wird das Gesetz sich um die Do’s und Don’ts des Schulungsprozesses formalisieren. Doch bis dahin wird es viele Gelegenheiten geben, bei denen die Temperatur über LLMs steigt, die Inhalte anderer Schöpfer missbrauchen. Es wird zunehmenden rechtlichen Druck auf Modelle geben, keine Antworten herauszuposaunen, die offensichtlich machen, woher das Quellmaterial stammt.