Die Deepfake-Technologie, ein Produkt der künstlichen Intelligenz (KI), revolutioniert die Erstellung und Konsum von Medien, indem sie synthetische Bilder, Videos und Audio generiert, die Ereignisse oder Personen in Situationen darstellen können, die nie stattgefunden haben. Deepfakes stellen sowohl Chancen als auch erhebliche Herausforderungen dar und sind Teil der allgemeinen Kategorie “synthetische Medien” oder “synthetischer Inhalt”, die durch KI-Maschinenlernen geschaffen oder modifiziert wurden, insbesondere wenn dies automatisiert erfolgt.
Der Begriff “Deepfake” setzt sich aus “Deep Learning”, einem Teil des maschinellen Lernens mit mehreren Verarbeitungsschichten, und “Fake” zusammen, der auf den fehlenden Authentizität des Inhalts hinweist. Deepfake-Technologie ist seit der Entstehung 2017, als ein Reddit-Benutzer namens “Deepfakes” Videos teilte, die Technologie zum Austausch von Gesichtern nutzten, um Prominenten in bereits existierende pornografische Videos einzufügen, wurde die Technologie schnell weiterentwickelt.
Beispiele für Deepfakes sind Bilder von Papst Franziskus in einer Daunenjacke und ein Video von Facebook-CEO Mark Zuckerberg, die über die Kontrolle seines Unternehmens über Benutzerdaten sprechen – alles Ereignisse, die in der Realität nie stattgefunden haben. Deepfakes wurden sowohl für positive als auch negative Zwecke eingesetzt, von Pornografie bis hin zu politischer Desinformation, wodurch ein breiter Konsens über ihr Potential zur Täuschung und Schädigung entstand.
Inmitten eines zunehmenden technologischen Fortschritts bei Deepfake-Technologie wird es zunehmend schwierig, zwischen echten und gefälschten Medien zu unterscheiden. Technologien wie Generative Adversarial Networks (GANs) werden verwendet, um die Realität der Deepfakes zu verbessern, was gleichzeitig die Erkennung erschwert. Regierungen und Organisationen weltweit bemühen sich, die Herausforderungen von Deepfakes anzugehen, indem sie Tools zur Erkennung und Begrenzung der Verbreitung auf sozialen Medienplattformen entwickeln und rechtliche Rahmenbedingungen zum Schutz vor Missbrauch schaffen.