Man könnte erwarten, dass eine App, die romantische Interaktionen mit KI-Chatbots bietet, hauptsächlich auf junge, alleinstehende Männer abzielt. Aber Replika-CEO Eugenia Kuyda sagte, dass dies ein “Wahrnehmungsproblem” sei. Obwohl Benutzer ab 18 Jahren ein Konto erstellen können, erklärte sie The Verge, dass die App hauptsächlich von Benutzern im Alter von “meist über 35” genutzt wird – und einen Ausgleich zwischen Männern und Frauen bietet. Replika bietet KI-Begleiter in Text, Sprache, Video oder Virtual Reality an. Ein Jahresabonnement kostet 69,99 US-Dollar, und Benutzer können mit den KI-Avataren als Freunde, Therapeuten oder romantische Partner interagieren. Einige Benutzer sind anscheinend stark von der App abhängig geworden. Im vergangenen Jahr porträtierte Business Insider’s Rob Price einen über 40-jährigen Mann, der eine langfristige Beziehung mit seinem Chatbot entwickelt hat.
Andere Benutzer berichteten von psychischen Krisen, nachdem die App die Möglichkeit entfernt hatte, erotische Nachrichten mit Chatbots auszutauschen. Das Unternehmen brachte die Funktion etwas über einen Monat nach dem Aufschrei zurück. Die CEO sagte im Interview, dass wenn das Unternehmen zuerst die Funktion für erotische Gespräche entfernt hatte, die Annahme war, dass intime Gespräche nur einen “sehr kleinen Prozentsatz” der Gesamtinteraktionen ausmachten. Sie sagte, das Unternehmen habe “den harten Weg” herausgefunden, dass wenn man auf seinen Replika fixiert ist und es sich entscheidet, sich nicht an dieser Art von Interaktion zu beteiligen, “das ein Vielzahl von Ablehnung darstellt.” Während der erotische Rollenspiel-Aspekt der App eines der auffälligeren und kontroverseren Angebote sein mag, sagte Kuyda, dass Replika schon immer um “KI-Freundschaft oder KI-Begleitung” gegangen sei.
“Einige dieser Beziehungen waren so kraftvoll, dass sie sich in Liebe und Romantik verwandelten”, sagte Kuyda. “Aber die Leute kamen nicht mit dem Gedanken herein, dass es ihre Freundin sein würde.” Kuyda sagte, dass einige Benutzer Replika als “Sprungbrett” verwenden, um ihnen durch eine schwierige Zeit zu helfen oder aus ihrer Bubble herauszukommen. “Replika ist eine Beziehung, die man haben kann, um dann zu einer echten Beziehung zu gelangen”, sagte Kuyda. Die Bequemlichkeit einer bedarfsgerechten KI- und wegwerfbaren Beziehung wirft Bedenken darüber auf, dass Benutzer problematische Erwartungen und Verhaltensweisen in menschliche Interaktionen übertragen könnten. Kuyda sagte, dass dies bisher nicht der Fall gewesen sei und behauptete, dass andere transaktionale Beziehungen, wie etwa zu einem Therapeuten, normalerweise nicht in persönliche Beziehungen außerhalb dieser Umgebung eingreifen. “Unsere Benutzer sind keine Kinder”, sagte sie. “Sie verstehen die Unterschiede. Sie haben bereits ihr Leben gelebt. Sie wissen, was gut ist, was schlecht ist.” Replika reagierte nicht auf eine Anfrage von BI.