Swifties gegen Deepfakes: Wie Fans von Taylor Swift für mehr Rechte im Netz kämpfen

Sexuell eindeutige Fotos von der US-amerikanischen Popikone Taylor Swift finden sich überall im Internet. Nur dass es nicht wirklich Aufnahmen von Swift sind: Es sind mit einer KI-Technologie hergestellte Deepfakes. Und doch bedeutet die Tatsache, dass sie computergeneriert sind nicht, dass diese Fotos nicht erschreckend realistisch aussehen – und sie hält ganz sicher nicht Leute davon ab, die Ergebnisse anzugucken. Eins der Bilder, das ein Nutzer auf X (vormals Twitter) geteilt hatte, wurde in den 17 Stunden, bevor es aus dem Netz genommen wurde, mehr als 45 Millionen mal aufgerufen.

Wenn diese Geschichte Ihnen bekannt vorkommt, dann weil Sie vermutlich schon einmal eine Variation davon gehört haben. Deepfake-Pornografie ist weitverbreitet – laut Juraprofessorin Danielle Citron von der University of Virginia School of Law gibt es mehr als 9.500 Internetseiten, die „solchen, ohne Einverständnis veröffentlichen sexuellen Bildern gewidmet sind“. Um überzeugende Deepfake-Bilder zu erschaffen, waren früher hunderte Bilder von einer Person und eine enorme Computer-Rechenleistung nötig. Heute braucht man nur ein paar Fotos des betreffenden Gesichts und eine Handy-App.

Swift ist eines der jüngsten und bekanntesten Opfer dieser Technologie, die aber zuvor schon das Leben vieler Betroffener erschüttert hat. Um genauer zu sein: das Leben vieler Mädchen und Frauen. Männer sind zwar nicht immun dagegen, Opfer anderer Formen KI-generierter Bilder zu werden. Aber Zielscheibe von Deepfake-Pornografie sind in den allermeisten Fällen weibliche Personen. Die 2019 veröffentlichte Studie des Cybersicherheitsunternehmens Deeptrace Labs kam zu dem Ergebnis, dass nicht einvernehmliche Deepfake-Pornografie 96 Prozent der gesamten Deepfake-Videos online ausmacht und das Phänomen „ausschließlich Frauen ins Visier nimmt und Schaden zufügt“. In den Jahren nach der Veröffentlichung der Deeptrace-Studie wurde es nur noch schlimmer. Auch die Zahl der Fälle, in denen Minderjährige als Deepfakes dargestellt wurden, nahm zu. Ein Beispiel: Im vergangenen Jahr erstellten und verbreiteten Schüler an einer High School in New Jersey sexuell eindeutige KI-generierte Bilder von mehr als 30 Mädchen im Teenageralter.

Die Aktion sendet eine alarmierende Botschaft an Frauen

Es kann nicht genug betont werden, dass Deepfake-Pornografie nicht darauf aus ist, erotischen Kitzel auszulösen – ihr Ziel ist sehr oft Demütigung. Eine Frau zu sein, die sich in irgendeiner Form auf einer öffentlichen Plattform bewegt, bedeutet, online mit Belästigung rechnen zu müssen: Deepfake-Pornografie ist nur noch ein weiteres Instrument, das Troll-Armeen und Frauenhasser als Waffe einsetzen, um Frauen zu bestrafen, die sich in ihren Augen falsch verhalten. Es soll Frauen zum Stillschweigen, soll sie offline bringen. Wenn prominente Persönlichkeiten wie Swift mit Deepfake-Pornobildern ins Visier genommen werden, sendet das eine Botschaft an Mädchen und junge Frauen: Wenn du irgendwie herausragst, wirst du dafür bestraft. Egal wie erfolgreich du bist, wie viele Milliarden du auf der Bank hast, die Welt wird immer noch einen Weg finden, um dich zum Objekt zu machen und dich zu demütigen.

Mädchen hören diese Botschaft übrigens laut und deutlich. Eine Studie im Jahr 2022 in Großbritannien ergab, dass Mädchen und junge Frauen im Alter zwischen neun und 18 Jahren in einer Prioritäten-Liste von 17 Attributen für eine zukünftige Arbeit „eine leitende Funktion ausüben“ auf die letzte Position setzten. Warum sollten sie führende Positionen einnehmen wollen, warum sollten sie im Auge der Öffentlichkeit stehen wollen, wenn sie sehen, welche Art von missbräuchlichen Übergriffen solche Frauen ausgesetzt sind?

Swift, für ihren Teil, gab bisher kein offizielles Statement zu den gefälschten Nacktbildern ab, die von ihr im Umlauf sind. Laut der britischen Boulevardzeitung Daily Mail ist sie aber sehr verärgert und überlegt, rechtliche Schritte zu unternehmen. Swifts ergebene Fans sind ebenfalls sehr wütend und haben schnellere Maßnahmen ergriffen. Sie meldeten massenhaft Accounts, die Deepfakes geteilt hatten, und posteten außerdem Tausende von Bildern, die mit Schlagwörtern wie „Taylor Swift AI“ versehen sind, um die Deepfakes schwer auffindbar zu machen.

Opfer haben wenig Rechtsmittel in den USA

Wenn es einen Silberstreifen am Horizont gibt, dann das: wütende Swifties, wie die Fans auch genannt werden, sind eine Macht, mit der man rechnen muss. Wenn irgendjemand die Regierung dazu bringen kann, Deepfake-Pornografie ernst zu nehmen, und irgendjemand die Soziale Medien-Plattformen dazu bringen kann, aufmerksam zu werden, ist es Swifts enorme und extrem motivierte Fangemeinde. Vergessen wir nicht das große Ticketmaster-Fiasko von 2022. Nachdem bei Ticketmaster der Ticketvorverkauf für Swifts Tournee „The Eras Tour“ schieflief, begannen die Gesetzgeber in den USA viel Lärm um wettbewerbswidrige Praktiken in der Musikindustrie zu machen. Damals gelang es Swifts Fans, Kartellrecht zu einem Mainstream-Gesprächsstoff zu machen. Ihr kollektiver Ärger könnte jetzt dazu beitragen, Veränderungen im US-Bundesrecht zu Deepfake-Pornografie anzustoßen.

Dabei kann eine Veränderung nicht schnell genug kommen. Während einzelne US-Bundesstaaten bereits Gesetze verabschiedet haben, die das Teilen von Deepfake-Pornografie ohne Zustimmung beschränken sollen, gibt es kein Bundesgesetz, das die Erschaffung und Teilung von fake-pornografischen Inhalten strafbar macht. Die Opfer haben dadurch sehr wenige Rechtsmittel zur Verfügung. Die Pressesprecherin des Weißen Hauses reagierte bereits auf die Geschehnisse und sprach sich für eine stärkere Regulierung von KI-Fälschungen in den sozialen Medien aus. Der US-Kongress müsse tätig werden. Doch während der Gesetzgeber die Sache nur schleppend angeht, wächst die Nutzung der Technologie sehr schnell. Dabei mögen die Bilder Fake sein – der Schaden, den sie zufügen, dagegen ist sehr, sehr real.

In Deutschland macht man sich durch das Erstellen von Deepfake-Pornografie strafbar. Die Videos fallen unter den Tatbestand „Bildbasierte sexuelle Gewalt“, wie der deutsche Juristenverbund in einer Stellungnahme erklärt. Dabei wird das Recht auf sexuelle Selbstbestimmung und das Recht am eigenen Bild verletzt.