1. Oktober 2021 Cyber-Mobbing mit Deep Fakes: Wie man sich dagegen wehren kann

Beleidigen, Bloßstellen, Gerüchte verbreiten — mit fortschreitender Technologie wird das Manipulieren von Bildern und Videos selbst für Laien immer einfacher. Experte Matthias Jax erklärt, was Betroffene tun können.

Mobbing im Internet hat viele Gesichter. Die Täterinnen und Täter belästigen ihre Opfer auf Sozialen Netzwerken, per Instant-Messaging-Anwendungen oder auf Video-Plattformen mit Beleidigungen, Bedrohungen oder Bloßstellungen. Sehr häufig kennen sich Opfer und Täter auch im realen Leben. Doch im Unterschied zur realen Welt erreichen beim Cyber-Mobbing die Beleidigungen einen größeren Personenkreis und können praktisch rund um die Uhr stattfinden. Solche Beleidigungen sind digital abrufbar und zumeist schwer dauerhaft zu entfernen. Denn es gilt wegen der raschen Verbreitung derartiger Inhalte „das Internet vergisst nicht“.

Eine relativ neue Variante ist das gezielte Belästigen mit Deep Fakes. Dabei wird das Gesicht einer Person in ein anderes Video montiert, um sie scheinbar bei Handlungen zu zeigen, die nie stattgefunden haben, oder um ihr fremde Worte in den Mund zu legen. Expertinnen und Experten bereitet zunehmend Sorge, dass die Technologie hinter den Deep Fake Videos immer professioneller wird und für jeden zugänglich ist. Zumeist sind Prominente sowie Politikerinnen und Politiker Opfer von Deep Fake Attacken. Doch theoretisch ist jede und jeder angreifbar. Neben Mobbing besteht auch die Gefahr von Erpressung.

Matthias Jax, Projektleiter bei saferinternet.at am Österreichischen Institut für angewandte Telekommunikation (ÖIAT), erklärt im Interview, was man als Privatperson wirklich zu befürchten hat und wie man sich im Ernstfall helfen kann.

Wie groß ist die Gefahr, als Privatperson Opfer einer Mobbing-Attacke mit Deep Fakes zu werden?
Matthias Jax: Aufgrund der unterschiedlichen Herausforderungen, die mit dem Thema einhergehen, ist eine große mediale Aufmerksamkeit rund um Deep Fakes entstanden. Es wird die Angst verbreitet, dass man in Zukunft keinen Inhalten mehr trauen könne. Ganz so schlimm ist es nicht.
Die Technologie dahinter ist noch längst nicht auf dem Level, dass man einfach eine App öffnet und eine täuschend echte Fälschung erstellen kann. Gerade als Privatpersonen sollte man deshalb das Risiko in Relation zum Aufwand sehen. In die Erstellung eines Deep Fake Videos muss man Zeit und Energie stecken. Cyberbullies wählen da meist simplere Methoden.
Personen, die in der Öffentlichkeit stehen, sind hingegen einem größeren Risiko ausgesetzt. Die große Sorge vieler ist, dass mit Deep Fakes gesellschaftliche Manipulation, zum Beispiel bei Wahlen, stattfinden kann.

Wie kann man erkennen, ob ein Video gefälscht ist?
Jax: Für gewöhnlich sagt einem schon das Bauchgefühl, dass da etwas nicht stimmt. Zuerst sollte man sich das Gesicht genauer ansehen, denn in den meisten Deep Fake Videos wird ein Gesicht auf einen anderen Körper montiert. Auffällig ist da zum Beispiel, dass die Mimik nicht ganz passt. Außerdem erscheinen die Konturen unscharf, was vor allem bei schnellen Bewegungen auffällt. Ein natürlich wirkendes Blinzeln ist ebenfalls noch eine Herausforderung für die Deep Fake Technologie. Die Videos sind auch meistens sehr klein und von schlechter Qualität, denn eine Full-HD Auflösung würde eine entsprechend hohe Rechenleistung voraussetzen.
Natürlich gibt es auch technologische Möglichkeiten zur Überprüfung der Videos. Sogenannte Deep Ware Scanner zeigen, ob ein Video nachträglich manipuliert wurde. Aktuell erleben wir gerade ein Katz und Maus-Spiel zwischen den Entwicklern der Deep Fake Technologie und ihren Aufdeckern. Es wird sowohl mit Hochdruck daran gearbeitet, die Videos immer professioneller erscheinen zu lassen, als auch daran, sie zuverlässig zu enttarnen.

Wann ist bei einem Deep Fake der Straftatbestand des Cyber-Mobbings erfüllt?
Jax: Es ist nicht per se illegal, ein Deep Fake Video mit dem Gesicht einer anderen Person zu erstellen. Es kommt immer darauf an, in welchem Kontext das Video erstellt wird. Der Cyber-Mobbing Paragraf greift ab dem Moment, wo jemand über PC oder Handy eine andere Person in ihrer Ehre verletzt oder höchstpersönliche Tatsachen bzw. Bilder veröffentlicht. Bei Deep Fakes handelt es sich in der Praxis sehr häufig um gefälschte pornografische Videos. Das ist dann ein möglicher Fall von Cyber-Mobbing. Außerdem wird dabei auch das Recht am eigenen Bild verletzt.

Welche Schritte soll man unternehmen, um sich gegen Cyber-Mobbing zu wehren?
Jax: Zuerst ist es wichtig, Beweise zu sichern. Im besten Fall sollte man das Videomaterial speichern oder Screenshots machen. Außerdem gibt es die Möglichkeit, die Nutzerinnen und Nutzer, die einen damit belästigen, umgehend zu sperren. Und man sollte die Videos und Inhalte unbedingt über die Meldefunktion der jeweiligen Plattform melden. Was vielen nicht bewusst ist: Wenn es um Nacktbilder oder andere pornografische Fotos geht, und diese gemeldet werden, können die Netzwerke durch eine Sicherheitsfunktion verhindern, dass dasselbe Bild oder Video erneut hochgeladen wird. Andere Inhalte können so jedoch nicht „gesperrt" werden.

Was ändert sich durch das neue „Hass-im-Netz-Bekämpfungsgesetz“?
Jax: Seitdem das „Hass-im-Netz-Bekämpfungsgesetz“ in Kraft ist (Anm.: 1.1.2021), sind die Sozialen Netzwerke bei Postings, die gewisse Straftatbestände erfüllen, gezwungen, innerhalb von 24 Stunden zu reagieren. Nur in Ausnahmefällen dürfen sie sich länger Zeit lassen. Außerdem müssen die Netzwerke entsprechend mit der Polizei zusammenarbeiten. Sobald ein Mobbing-Inhalt gemeldet wird, startet dieser Prozess, und es kann sein, dass der Fall direkt bei der Polizei landet. Deswegen: melden ist ganz wichtig.

Sobald ein Deep Fake Video in Umlauf ist, lässt es sich dann überhaupt noch aufhalten?
Jax: Es ist schon eine Herausforderung. Wenn Inhalte über Messenger Dienste wie WhatsApp oder Signal geteilt werden, sind sie ja auf den Endgeräten der Nutzer gespeichert. Das Netzwerk selbst kann diese Inhalte also nicht automatisch löschen. Was man aber nicht vergessen darf: auch auf WhatsApp oder Signal gibt es eine Meldefunktion. Die Anwendungen sind zwar Ende zu Ende verschlüsselt, aber das ist kein rechtsfreier Raum. Sobald man eine Nutzerin oder einen Nutzer meldet, werden die Inhalte der letzten Chats direkt an WhatsApp geschickt. Und der Messenger Dienst kann die Telefonnummer der Täterin oder des Täters sperren. Diese haben dann keine Möglichkeit mehr, über die App weiter zu mobben.

Welche Strafen drohen der Urheberin oder dem Urheber eines solchen Videos, und was passiert mit Personen, die es weiterverbreiten?
Jax: Cyber-Mobbing kann mit einer Freiheitsstrafe von bis zu einem Jahr oder einer Geldstrafe von bis zu 720 Tagessätzen bestraft werden. In besonderen Härtefällen drohen Freiheitsstrafen bis zu drei Jahren. Auch wenn man nicht die Urheberin oder der Urheber des Videos ist, es aber weiterverbreitet, macht man sich strafbar. Pauschal lässt sich das aber nicht sagen, jeder Fall muss extra angeschaut werden.

Wie kann man sich durch das eigene Verhalten online schützen?
Jax: Überlegen Sie gut, welche Inhalte Sie teilen. Und wenn Sie sich mit dem Thema beschäftigen, können Sie gleich die eigenen Profile durchforsten – denn es muss nicht immer alles online bleiben. Ich empfehle, sich mal zwei Stunden hinzusetzen und die eigenen Accounts aufzuräumen. Man kann Inhalte auch im Nachhinein auf Privat stellen oder gegebenenfalls löschen. Überdenken Sie auch die Privatsphäre-Einstellungen und hinterfragen Sie immer wieder, wo die Inhalte gespeichert sind.