In den ersten sechs Monaten des Jahres 2024 wurden allein über 300 Artikel im digitalen Bibliotheksdienst IEEE Xplore veröffentlicht, die sich auf die Erstellung von Erkennungstools für Deepfakes konzentrieren. Laut dem IEEE-Senior-Mitglied Aiyappan Pillai ermöglicht KI deepfake-Algorithmen, schwerer zu erkennende Fälschungen zu produzieren, wobei KI-gestützte Erkennungstechnologien Schritt halten, indem sie verschiedene Techniken und Algorithmen anwenden, um Fälschungen zu identifizieren.
Der Begriff Deepfake setzt sich aus den beiden Begriffen Deep Learning und Fake, also Fälschung, zusammen. Deepfakes sind KI-generierte realistische Videos, Audio-Clips oder Standbilder, die echte Personen zeigen, wie sie Dinge tun oder sagen, die sie nicht getan oder gesagt haben. Sie sind in den letzten Jahren in politischen und unterhaltenden Bereichen aufgetaucht und bedrohen die Unterhaltungswirtschaft, indem sie Songs nachahmen, die beliebte Musikacts imitieren, normalerweise ohne die Zustimmung der Interpreten.
Es gibt zwei breite Kategorien von Technologien zur Erkennung von Deepfakes, für die umfangreiche Forschung betrieben wurde, um herauszufinden, wie gut sie funktionieren. Eine Methode zur Identifizierung von Deepfakes besteht darin, einem Machine-Learning-Modell viele Deepfakes und echte Inhalte zuzuführen, damit es lernen kann, die Unterschiede zwischen ihnen zu erkennen. Eine andere Methode, die sich auf semantische Analyse stützt, betrachtet den Inhalt und Kontext des Bildes. Diese Methoden können Muster wie Blutfluss im Gesicht eines Sprechers analysieren oder die Beziehungen zwischen Objekten überprüfen.
Die Notwendigkeit, Deepfakes zu identifizieren, hat einige generative KI-Unternehmen dazu veranlasst, Markierungen für diesen Zweck zu erstellen, um sie zu kennzeichnen. Einige dieser Markierungen sind für Benutzer sichtbar, andere nicht. Die genaue Digitalisierung von Bildern, die unter Verwendung von generativen KI-Plattformen generiert wurden, ist eine der effektivsten Techniken zur Identifizierung von Deepfakes.
Es gibt Bedenken hinsichtlich der Verzerrungen, die durch die Verwendung von fünf oder sechs verbreiteten Datensätzen entstehen, die verwendet werden, um Deep-Learning-Modelle zur Erkennung von Deepfakes zu trainieren. Ein Datensatz besteht ausschließlich aus Prominenten. Dies hat zu Fragen geführt, ob Deepfake-Erkennungstools Schwierigkeiten haben könnten, wenn sie mit Daten von Personen aus vielfältigen Hintergründen konfrontiert werden. Menschen sind immer noch besser als Maschinen darin, Deepfakes zu erkennen, wobei viele Forschungen erst am Anfang stehen, um zu verstehen, warum manche besser darin sind als andere.