Elon Musks KI-Chatbot Grok erlaubt es den Nutzern seit Dienstag, KI-generierte Bilder aus Texteingaben zu erstellen und sie auf X zu posten. Die Benutzer begannen schnell, das Tool zu nutzen, um die soziale Plattform mit gefälschten Bildern von politischen Persönlichkeiten wie dem ehemaligen Präsidenten Donald Trump, Vizepräsidentin Kamala Harris und sogar Musk selbst zu überschwemmen. Einige der Bilder zeigten die öffentlichen Figuren in offensichtlich falschen und dennoch verstörenden Situationen, wie z.B. Beteiligung an den Anschlägen am 11. September.
Im Gegensatz zu anderen Mainstream-KI-Fototools scheint Grok, das von Musks KI-Startup xAI erstellt wurde, nur wenige Schutzmechanismen zu haben. In Tests konnte CNN beispielsweise Grok leicht dazu bringen, gefälschte, fotorealistische Bilder von Politikern und politischen Kandidaten zu generieren, die aus dem Kontext gerissen irreführend für Wähler sein könnten. Das Tool erstellte auch harmlose, aber überzeugende Bilder von öffentlichen Personen, wie Musk, der im Park Steak isst.
Einige X-Nutzer posteten Bilder, die sie mit Grok erstellt haben und prominente Persönlichkeiten beim Konsum von Drogen zeigen, Cartoon-Charaktere bei gewaltsamen Morden und sexualisierte Bilder von Frauen in Bikinis. Es scheint, dass das Tool in der Lage ist, solche Bilder zu erstellen. Die Verwendung solcher KI-Tools sorgt für Bedenken, dass durch künstliche Intelligenz eine Flut von falschen oder irreführenden Informationen im Internet entstehen könnte, insbesondere vor den US-Präsidentschaftswahlen.
X hat anscheinend einige Einschränkungen für Grok eingeführt, als Reaktion auf kritische Berichte und die verstörenden Bilder, die von Nutzern erstellt und gepostet wurden. Das Tool weigert sich nun, Bilder von politischen Kandidaten oder weit verbreiteten Cartoon-Charakteren zu erstellen, die gewalttätige Handlungen begehen oder Hass-Symbole zeigen. Allerdings scheinen die Einschränkungen nur für bestimmte Begriffe und Bildobjekte zu gelten. Musk selbst hat auf X falsche und irreführende Behauptungen verbreitet, die im Zusammenhang mit der Präsidentschaftswahl stehen, was zu Kritik führte. Andere AI-Tools zur Bildgenerierung wurden ebenfalls aufgrund verschiedener Probleme kritisiert.