10. September 2021 Die Entstehung von Deep Fakes auf Reddit und ihre Verbreitung

Im Jahr 2017 veröffentlichte ein Reddit-Nutzer einen Deep Learning Algorithmus, der die Erstellung von manipuliertem Videomaterial, sogenannten Deep Fakes, vereinfachte. Das ebnete den Weg für die gefälschten Inhalte.

Deep Fakes sind verfälschte Bewegtbilder, die mithilfe von künstlicher Intelligenz hergestellt werden. Diese Technologie ermöglicht es, realistische Versionen von Gesichtern und deren Mimik auf andere Personen zu übertragen. So entstehen beispielsweise manipulierte Clips von berühmten Persönlichkeiten, denen fremde Aussagen in den Mund gelegt werden.

Wie alles begann…

Die Social Media Plattform Reddit zeichnet sich besonders durch das Teilen von News und Inhalten in verschiedenen thematischen Foren aus. Mittlerweile gibt es mehr als zwei Millionen solcher „Subreddits“, auf denen täglich rund 52 Millionen „Redditors“ – so werden die Userinnen und User genannt – aktiv sind. Im Jahr 2017 veröffentlichte ein Nutzer dieser Plattform unter dem Pseudonym „deepfakes“ verfälschte Bewegtbilder berühmter Schauspielerinnen. Der selbst programmierte Algorithmus wurde als Open-Source-Code zur Verfügung gestellt und ermöglichte somit anderen Redditors, mithilfe einer einfachen Anleitung, eigene Deep Fakes zu erstellen.

Zuvor waren solche Technologien nur eingeschränkt einsetzbar. Programme wie Face2Face konnten zwar in Echtzeit die Gesichtszüge von zwei Personen austauschen, jedoch gelang es erst mit dem neuen Algorithmus, realistische Fälschungen im Videoformat zu erstellen. Die neue Technologie stach jedoch nicht nur durch ihre Qualität hervor, sondern auch durch ihre einfache Bedienung.

Die Verbreitung von Deep Fakes

Deep Fakes verbreiteten sich rasant auf der Social Media Plattform. Anfang 2018, nur wenige Monate nachdem Redditor „deepfakes“ seinen innovativen Algorithmus veröffentlichte, publizierte ein anderer Nutzer derselben Plattform unter dem Pseudonym „deepfaceapp“ die Applikation Fake App. Bereits nach einem Monat verzeichnete sie 100.000 Downloads. Mit dieser Software konnte jede oder jeder ohne bestimmte Vorkenntnisse Deep Fakes erstellen. Die 2021 veröffentlichte Deepfake-Software Avatarify geht sogar noch einen Schritt weiter: Sie ermöglicht Deep Fakes live im Videochat über die Video-Dienste Skype, Zoom oder Microsoft Teams. Diese Technologie basiert auf dem First Order Motion Model und kann Gesichtsbewegungen mithilfe der Computer-Webcam erkennen und sie auf beliebige Fotos übertragen.

Reddit setzt Maßnahmen gegen Deep Fakes

Die schnelle Verbreitung von Deepfakes auf verschiedenen Social Media Plattformen führte zu einer kontroversen Diskussion über diese Technologie. Im Februar 2018 wurde der ursprüngliche Subreddit „deepfakes“ mit mehr als 91.000 Abonnentinnen und Abonnenten auf Reddit gelöscht, nachdem das Unternehmen ein neue Policy zur Bekämpfung von unfreiwilliger Pornografie einführte.

Andere Arten von Deep Fakes waren jedoch nicht von diesen Richtlinien betroffen. Erst zwei Jahre später wurde eine neue Policy beschlossen, die zum Ziel hatte, die Verbreitung von trügerischen Imitationen und Medieninhalten auf der Plattform einzubremsen. Die neuen Regelungen verboten beispielsweise, sich auf irreführende und täuschende Art und Weise als eine andere Person auszugeben. Durch diese Policy sollte nicht nur die Verbreitung von Deep Fakes, sondern auch das Teilen von manipulierten Medieninhalten auf Reddit eingeschränkt werden. Satirische und parodistische Inhalte waren jedoch von der Regelung ausgeschlossen.

Dies führte in den vergangenen Monaten zu vermehrten Debatten, da Desinformationen über die Corona-Pandemie uneingeschränkt auf Reddit verbreitet werden können. Mehrere Moderatoren beliebter Subreddits richteten sich aus diesem Grund in einem offenen Brief an die Social Media Plattform und forderten Maßnahmen gegen Corona-Falschmeldungen und die Löschung von Foren, die diese verbreiten. Das Unternehmen verhängte jedoch lediglich Warnhinweise über bestimmte Beiträge und Gruppen und betonte die Möglichkeit einer offenen und authentischen Diskussion auf der Social Media Seite. Daraufhin protestierten beliebte Foren und richteten den „Privat“-Modus ein. Zugriffe auf die Subreddits müssen somit zuerst durch die jeweilige Moderatorin oder den jeweiligen Moderator erlaubt werden. Dies kann sich finanziell auf das Unternehmen auswirken, da sich dieses teilweise über hervorgehobene Werbeposts finanziert.

Umgang mit Deep Fakes im Vergleich

Die Social Media Netzwerke Instagram und Facebook, die beide zum selben Unternehmen gehören, haben ebenfalls bereits zielgerichtete Schritte gegen die Bekämpfung von Corona Fake News gesetzt, jedoch wird ihr Umgang mit Deep Fakes oft kritisiert. Bereits im Jahr 2020 veröffentliche das Unternehmen geplante Maßnahmen, die die Verbreitung von irreführenden Clips einschränken sollten. Neben Angestellten überprüfen auch unabhängige Fakten-Checkerinnen und Fakten-Checker die Authentizität eines Videos. Wie im Falle der neuen Reddit-Policy, trifft dies jedoch nicht auf Deep Fakes zu, die parodistische oder satirische Inhalte vermitteln. Somit wird die Diskussion über den richtigen Umgang der Social Media Plattformen mit Deep Fakes und die zusetzenden Maßnahmen weiterhin kontrovers geführt werden.