Amnesty für Verwendung künstlich generierter Bilder kritisiert

Die systematische Brutalität, mit der die kolumbianische Polizei im Jahr 2021 nationale Proteste niederschlug, war zwar real und gut dokumentiert, aber die Fotos, die Amnesty Norway kürzlich verwendete, um auf das Problem hinzuweisen, waren es nicht.

Die Menschenrechtsorganisation ist in die Kritik geraten, weil sie von künstlicher Intelligenz generierte Bilder gepostet hat, um für ihre Berichte in den sozialen Medien zu werben – und hat sie inzwischen entfernt. Die Bilder, darunter eines, auf dem eine Frau von Polizeibeamten weggezerrt wird, zeigen die Szenen während der Proteste, die sich 2021 durch Kolumbien zogen.

Aber schon ein flüchtiger Blick auf die Bilder zeigt, dass etwas nicht stimmt. Die Gesichter der Demonstrant:innen und der Polizei sind geglättet und verzerrt, was dem Bild eine dystopische Aura verleiht. Die von der Demonstrantin getragene Trikolore hat die richtigen Farben – rot, gelb und blau – aber in der falschen Reihenfolge, und die Polizeiuniform ist veraltet.

Amnesty und andere Beobachter haben Hunderte von Fällen von Menschenrechtsverletzungen durch die kolumbianische Polizei während der Unruhen im Jahr 2021 dokumentiert, darunter Gewalt, sexuelle Belästigung und Folter. Ihre Untersuchungen haben das Bewusstsein für die Härte der kolumbianischen Polizei geschärft und dazu beigetragen, dass die Notwendigkeit von Reformen zunehmend anerkannt wird.

KI-generierte Bilder zum Schutz der Demonstrant:innen

Fotojournalist:innen und Medienwissenschaftler:innen warnten jedoch, dass die Verwendung von KI-generierten Bildern die Arbeit von Amnesty untergraben und Verschwörungstheorien nähren könnte. „Wir leben in einer stark polarisierten Zeit voller Fake News, die die Glaubwürdigkeit der Medien infrage stellen. Und wie wir wissen, lügt künstliche Intelligenz. Welche Art von Glaubwürdigkeit hat man, wenn man anfängt, Bilder zu veröffentlichen, die von künstlicher Intelligenz erstellt wurden?“, sagte Juancho Torres, ein in Bogotá ansässiger Fotojournalist.

Während des landesweiten Streiks im Jahr 2021, der sich an einer unpopulären Steuerreform entzündete und durch die brutale Reaktion der Polizei weiter angefacht wurde, wurden mindestens 38 Zivilist:innen von staatlichen Kräften getötet. In Fällen, die von der in Bogotá ansässigen Organisation Temblores dokumentiert wurden, wurden Frauen entführt, in dunkle Gebäude gebracht und von Gruppen von Polizisten vergewaltigt.

Amnesty International hat nach eigenen Angaben bereits in früheren Berichten Fotos verwendet, sich aber für die von der künstlichen Intelligenz generierten Bilder entschieden, um die Demonstrant:innen vor möglichen staatlichen Repressalien zu schützen. Um die Öffentlichkeit nicht in die Irre zu führen, enthielten die Bilder einen Text, in dem darauf hingewiesen wurde, dass sie von Künstlicher Intelligenz erstellt wurden.

„Wir haben die Bilder aus den sozialen Medien entfernt, da wir nicht wollen, dass die Kritik an der Verwendung von KI-generierten Bildern von der Kernbotschaft zur Unterstützung der Opfer und ihrer Forderung nach Gerechtigkeit in Kolumbien ablenkt“, sagte Erika Guevara Rosas, Direktorin für Amerika bei Amnesty. „Aber wir nehmen die Kritik ernst und wollen das Engagement fortsetzen, um sicherzustellen, dass wir die Auswirkungen besser verstehen und unsere Rolle bei der Bewältigung der ethischen Dilemmata, die der Einsatz dieser Technologie mit sich bringt, wahrnehmen.“

Fototjournalist:innen geben die Realität wieder, die KI nicht

Gareth Sella erblindete auf dem linken Auge, als ein Polizist in Bogotá während der Proteste mit einem Gummigeschoss auf ihn schoss. Er argumentierte, dass es sinnvoll sei, die Identität der Demonstrant:innen zu verbergen, um sie davor zu schützen, wegen übertriebener Anschuldigungen im Gefängnis zu landen.

„Wie die UNO dokumentiert hat, hat der Staat die Verfolgung der Demonstrant:innen fortgesetzt, und mehr als 100 von ihnen sitzen im Gefängnis, viele mit unverhältnismäßigen Strafen, beispielsweise wegen Terrorismus, um an ihnen ein Exempel zu statuieren. Unsere Identität zu verbergen, erscheint mir vernünftig, denn auch nach zwei Jahren leben wir in der Angst, dass wir jeden Moment ins Gefängnis kommen könnten oder dass sie uns sogar auf der Straße verfolgen“, sagte Sella.

KI-generierte Bilder fügen Fotos, die zuvor von Menschen aufgenommen wurden, zu neuen Bildern zusammen, was Fragen zu Plagiaten, zum Fotojournalismus und zur Zukunft der Branche aufwirft. Torres sagte, die Verwendung von KI-Bildern durch Amnesty sei eine Beleidigung für die Fotojournalist:innen, die von der Frontlinie aus über die Proteste berichten.

„Die Macht eines Journalisten besteht darin, die Realität und das, was er sieht, wiederzugeben – etwas, wofür viele Reporter:innen, Fotograf:innen und Kameraleute während des landesweiten Streiks ihr Leben riskiert haben. Ich habe einen Freund, der ein Auge verloren hat. Durch die Verwendung von KI-Bildern geht nicht nur diese Realität verloren, sondern auch die Verbindung zwischen Journalist:innen und Menschen.“