Die Stadtbeamten von San Francisco reichten eine wegweisende Klage gegen beliebte Deepfake-Websites ein, die künstliche Intelligenz verwenden, um Bilder bekleideter Frauen und Mädchen “auszuziehen”.
Das Verwaltungsbüro des Stadtanwalts verklagt 16 der am meisten angesehenen KI-“Auszieh”-Websites, die im ersten Halbjahr 2024 gemeinsam mehr als 200 Millionen Mal besucht wurden, so die Klage.
Die Websites ermöglichen es den Benutzern, Bilder echter, bekleideter Menschen hochzuladen, die dann von der KI “ausgezogen” und in gefälschte Nacktbilder umgewandelt werden.
San Franciscos Stadtanwalt David Chiu kündigte am Donnerstag an, dass sein Büro 16 Betreiber von Deepfake-Nackt-Websites in einem wegweisenden Fall verklagt.
Die Klage besagt, dass die Deepfake-Nacktbilder ohne Zustimmung hergestellt werden und dazu dienen, Frauen und Mädchen in Kalifornien und im ganzen Land einzuschüchtern, zu mobben und zu erpressen.
Die Stadtanwaltskanzlei fordert zivilrechtliche Sanktionen und die Entfernung der Deepfake-Websites sowie Maßnahmen, um zu verhindern, dass die Seitenbetreiber in Zukunft Deepfake-Pornografie erstellen.
Die Klage bezieht sich auf einen Fall aus dem Februar 2024, als fünf Schüler von einer Mittelschule in Kalifornien ausgeschlossen wurden, nachdem sie KI-generierte Nacktbilder von 16 Schülern der achten Klasse erstellt und verbreitet hatten.
Der Stadt San Francisco schwebt eine Klage wegen Deepfake-Nacktgeneratoren über dem Kopf. In der AI-Branche werden Deepfakes, also KI-generierte und manipulierte Bilder, immer populärer.
KI-generierte Bilder können oft Fehlinformationen verbreiten wie ein Lauffeuer. Ein Deepfake-Bild des Papstes verwirrte 2023 Nutzer in den sozialen Medien, bis Medienberichte bestätigten, dass es von KI erstellt wurde.
Aber oft werden Deepfakes bösartig. Gefälschte Nacktbilder von Kindern landeten an der Spitze einiger Suchergebnisse auf Microsoft- und Google-Suchmaschinen, so ein Bericht von NBC News im März.
Die KI-generierten Nacktbilder können oft zu Sextortion-Schemen führen, bei denen Opfer gezwungen werden, Geld zu zahlen, um die Veröffentlichung gefälschter Bilder zu verhindern.