OpenAI äußert Bedenken darüber, dass Benutzer emotionale Bindungen zu ChatGPT-4o aufgrund seiner menschenähnlichen Interaktionen eingehen könnten. Das Unternehmen befürchtet, dass der zu schnelle Glaube an KI dazu führen könnte, in falsche Überzeugungen zu investieren und soziale Normen zu verändern. OpenAI zielt darauf ab, seine Systeme zu überwachen und anzupassen, um zu verhindern, dass Benutzer KI wie ChatGPT-4o mit menschlicher Interaktion verwechseln.
AI-Chatbot-Unternehmen arbeiten daran, ihre Modelle so menschenähnlich wie möglich zu gestalten. OpenAI scheint jedoch besorgt darüber zu sein, wie menschlich “zu menschlich” sein könnte und wie dies gesellschaftliche Normen beeinflussen könnte. Das Unternehmen hat einen ausführlichen Bericht darüber veröffentlicht, wie es sein Geschäft betreibt, und ein Teil davon macht deutlich, dass das Unternehmen wirklich, wirklich nicht möchte, dass Sie Gefühle für ChatGPT-4o entwickeln.
Die OpenAI blog-Beiträge beschreiben die Bedenken des Unternehmens darüber, wie Menschen Beziehungen zu ChatGPT-4o aufbauen könnten. In einem OpenAI-Blogbeitrag wird erwähnt, dass das Unternehmen hart daran arbeitet, ChatGPT-4o so zu gestalten, dass es sich anfühlt, als würden Sie mit einem menschlichen Wesen sprechen. Dazu gehört auch eine neue Sprachfunktion, die versucht, die menschliche Sprache zu imitieren, neben schnelleren Antworten. Das Ergebnis ist, dass Sie mit dem Chatbot vokal wie mit einer Person sprechen können.
Es gibt jedoch ein kleines Problem, das OpenAI bemerkt hat, dass Benutzer begonnen haben, ChatGPT-4o wie ein menschliches Wesen zu behandeln. Während früherer Tests, einschließlich Red-Teaming und interner Benutzertests, hat OpenAI festgestellt, dass Benutzer eine Sprache verwenden, die darauf hindeutet, dass sie eine Verbindung mit dem Modell eingehen. OpenAI erklärt, dass dies aus zwei Gründen problematisch ist: Erstens sind wir anfälliger dafür, zu glauben, was eine KI sagt, wenn sie menschenähnlich erscheint, was dazu führen kann, dass Menschen in Halluzinationen investieren. Zweitens befürchtet OpenAI, dass soziale Normen durch ChatGPT-4o verzerrt werden könnten, was zu einer Reduzierung des Bedarfs an sozialer Interaktion und potenziell negativen Auswirkungen auf gesunde Beziehungen führen könnte.
Zum gegenwärtigen Zeitpunkt wird OpenAI beobachten, wie sich die emotionalen Bindungen der Benutzer zu seinen Chatbots entwickeln und bei Bedarf seine Systeme anpassen. Dies bietet einen interessanten Einblick in die Nebenwirkungen der Gestaltung eines KI-Modells als sympathisch und zugänglich wie möglich.