Der digitale Machtapparat

Überwachung Die Einführung eines „Sozialkreditsystems“ in China erzeugt düstere Zukunftsvisionen - auch für westliche Gesellschaften
Bei diesem Beitrag handelt es sich um ein Blog aus der Freitag-Community
Der digitale Machtapparat
Unter der Fuchtel der Partei. Chinas Zentralregierung will eine bessere Gesellschaft schaffen

Foto: CHANDAN KHANNA/AFP/Getty Images

Die chinesische Zentralregierung plant ein „Sozialkreditsystem“ einzuführen, das mittels eines Algorithmus und einer Art intelligenter Identitätskarte ständig den persönlichen Zustand und die individuellen Wege im Internet registriert, analysiert und evaluiert. Ziel ist es, die Bürger*innen so durch gegenseitige Selbst-Ratings zu einem «ehrlicheren», «vertrauenswürdigeren», weniger «gemeinschaftsschädigenden» Verhalten zu dressieren. Konformismus verschafft in diesem onlinebasierten System einen hohen Punktescore, während abweichendes Verhalten zu einem Vertrauensbruch wird und Minuspunkte gibt.

Das erklärte Ziel der Zentralregierung besteht darin „das Verhalten der Leute zu normieren. Wenn sich alle der Norm gemäss verhalten, ist die Gesellschaft automatisch stabil und harmonisch“, so Wang Yongqing, Generalsekretär des Parteikomitees für Politik und Recht der Kommunistischen Partei Chinas. Ein solches System ist natürlich nicht ohne Folgen für das soziale Leben. So führt ein alter parteitreuer Chinese aus: „Wenn du viele Minuspunkte hast, dann tuscheln die anderen über dich: Guck mal, der da, das ist ein B. Oder ein C. Manchmal reicht es, wenn wir die Leute warnen: Du, wir stufen dich runter. Dann erschrecken sie.“

Verheißungsvolle Allianzen

Dem Credo der unentwegten „Verbesserung“, „Optimierung“, „Harmonisierung“ folgend, wird hier Bestrafung als „Hilfe“ verkannt, während jeder potenzielle Widerstand gleich im Keim erstickt wird. Gerade auch angesichts der bevorstehenden Einführung von Facebook auf dem chinesischen Markt sind diese Entwicklungen mit besonderer Skepsis zu beobachten. Zwar hat der junge Facebook-Gründer und CEO des Unternehmens, Mark Zuckerberg, seit dem Machtantritt von Donald J. Trump kaum eine Chance ungenutzt gelassen, sich in Abgrenzung zu dessen national-konservativen Positionen als moderner, weltoffener Wohltäter zu profilieren, doch sollte dieser Schein nicht trügen.

Auf der einen Seite rühmt sich Zuckerberg, zu dessen Unternehmen auch andere Social Media Plattformen, wie Instagram und WhatsApp gehören, mit den vermeintlichen Erfolgen seiner Initiative für freien Internetzugang, die das Ziel verfolgt Menschen in entlegenen Regionen mit einem Internetzugang zu versorgen, um - so Zuckerberg - „die soziale Infrastruktur“ für „eine weltweite Community aufzubauen“. Dass der von ihm versprochene Zugang zur digitalen Welt streng auf Facebook und ein paar wenige Partnerseiten beschränkt ist und damit vermutlich eher einer aggressiven Wachstumsstrategie entsprungen, als den nach Außen betonten philanthropischen Gedankengängen des Unternehmensgründers, wird gerne verschwiegen. Genau so steht es um den Umstand, dass Facebook sich seit Jahren mit Hilfe immer neuer Steuertricks darum bemüht, möglichst niedrige Abgaben auf die von ihnen erwirtschafteten Gewinne zahlen zu müssen und sich so seinem eigenen Beitrag zur Schaffung einer tatsächlichen sozialen Infrastruktur fortwährend entzieht.

Und so lässt sich grundsätzlich an dem progressiven Kern eines Unternehmens zweifeln, dessen Gründer in einem Posting vom Jahresbeginn, das schnell als Manifest gelesen wurde, die Aufforderung „Erschaffen wir die Welt, die wir wollen“ vertritt und zu diesem Zweck auf eine langjährige aggressive Wachstumsstrategie zurück blicken kann. Während seine monopolartige Macht es Facebook erlaubt, die Daten von gut einem Viertel der Weltbevölkerung (etwa 1,86 Milliarden Nutzer*innen) zu speichern und zu verwalten, generiert ein geheimer Algorithmus mit Hilfe individueller Filtereinstellungen einen persönlichen Informationsfluss für den Newsfeed jeder*s einzelnen Nutzers*in und schafft damit, ohne anzugeben, nach welchen Kriterien diese Auswahl stattfindet, unsere jeweils ganz persönlichen Wohlfühl-Filterblasen.

Diese auf vollständige Erfassung des digitalen Soziallebens ausgerichteten Maßnahmen bergen nicht nur die gerne betonten Möglichkeiten, sondern auch riesige Gefahren in sich. Wer diesen mächtigen Apparat kontrolliert, dem stehen bisher ungekannte Möglichkeiten zur Überwachung und Beeinflussung offen – erst kürzlich schrieb Zuckerberg selbst, dass es vermutlich kein Zufall sei, dass die letzten Wahlen weltweit zugunsten derjenigen Personen entschieden wurden, die über die größte und engagierteste Anhängerschaft auf Facebook verfügten. Schon lange hat Facebook konventionelle Medienseiten als primäre Informationsquelle abgelöst und in Anbetracht von Fake News und Klarnamenpflicht scheint es nur noch eine Frage der Zeit, bis sich eine auf Facebook gestützte Online-Identität durchsetzen wird.

Bereits jetzt nutzen immer mehr Plattformen (z.B. Spotify oder Tinder)Verfahren des sogenannten Single-Sign-on, das es ihren Kunden erlaubt, sich beispielsweise mit ihrem Facebook-Profil anzumelden, ohne dafür ein eigenes Benutzerkonto auf der neuen Website anlegen zu müssen. Angesichts der Vielzahl von Online-Versandhändlern, Streaming-Diensten und Buchungs-Plattformen, auf die ein*e durchschnittliche*r Internetznutzer*in heute zugreift, scheint der Single-Sign-on eine attraktive Vereinfachung darzustellen. Dass durch dieses Prinzip aber die Fülle der mit dem persönlichen Facebook-Profil verknüpften Datenmengen (und damit der Informationen über das persönliche Verhalten und Leben) um ein vielfaches steigt und gerade die durch die Kombination dieser Datenquellen ermittelbaren Zusammenhänge die wertvollsten Informationen zur Analyse der Nutzer*innen darstellt, während zeitgleich die eigene Abhängigkeit vom Facebook-Login zunimmt, wird leichtsinnig vergessen. Während sich dieser Prozess schleichend weiterentwickelt, erwirbt Facebook im Kampf gegen Fake News grundsätzliche die Legitimation dafür, Inhalte nach eigenen Maßstäben als fragwürdig zu kennzeichnen und gar zu entfernen und entwickelt dazu aktuell auf künstlicher Intelligenz basierende Systeme zur automatischen Identifikation entsprechender Beiträge. Der Kampf gegen Fake News ist wichtig, aber er darf nicht dazu führen, dass ein nach ökonomischem Wachstum strebender, sich jeglicher demokratischer Einflussnahme entziehender Unternehmensapparat nun unser aller digitales Leben nach eigenen Kriterien zu bestimmen versucht.

Vorbild für den Westen?

In starker Abgrenzung zu Donald J. Trump pflegt Mark Zuckerberg gute Kontakte nach China. Während er mit einer chinesischen Frau verheiratete ist und die Sprache fließend spricht, plant sein Unternehmen schon lange die Erschließung des gigantischen fernöstlichen Marktes. Um auch entlegene Gebiete erreichen zu können, soll auf dieselbe Drohnentechnik zurückgegriffen werden, die im Rahmen der Initiative für freien Internetzugang entwickelt wird. Geplant ist es, die chinesische Bevölkerung mit einem Schlag in eine digitale Gesellschaft zu transformieren. Sie alle sollen Facebooknutzer*innen und damit Teil der „weltweiten Community“ werden, die Mark Zuckerberg aufzubauen versucht.

Um sein Expansions- und Machtstreben vorantreiben zu können, ist Zuckerberg eine Allianz mit der chinesischen Zentralregierung eingegangen. Er macht sich einen autoritären Herrschaftsapparat zum Verbündeten, der jahrzehntelange Erfahrung mit Propaganda- und Repressionstechniken gesammelt hat und liefert diesem das perfekte Kontroll- und Manipulationsinstrument, dass es ihm erlauben wird, die von ihm in totalitärer Manier beherrschte Bevölkerung in eine noch viel allumfassendere Überwachung und Kontrolle zu stürzen.

Die Idee der chinesischen Regierung, ein allumfassendes „Sozialkreditsystem“ zu entwickeln, in dem die Vertrauenswürdigkeit jeder*s einzelnen Bürgers*in auf Grundlage verschiedenster Daten bewertet wird, lässt gepaart mit der aus einer flächendeckenden Facebooknutzung erwachsenden totalen Überwachung- und Manipulationsmöglichkeiten der Phantasie keine Grenzen: So wäre es vorstellbar, dass die chinesische Regierung schon in Kürze ein onlinebasiertes System entwickelt, in dem alle Bürger*innen die „soziale Vertrauenswürdigkeit“ ihrer Mitmenschen anhand ihrer täglichen Interaktionen öffentlich bewerten können/müssen. Damit wäre ein allumfassender Spitzelapparat geschaffen, der in den Händen einer der erfahrensten autoritären Diktaturen wohl auf fruchtbaren Boden fallen würde.

Jedem halbwegs gebildeten Menschen dürfte klar sein, was es heißt mit einem solchen Regime in digitalen Belangen zusammenzuarbeiten. Statt darauf zu bestehen, dass seine Plattform unzensiert und frei verfügbar ist, bereitet Zuckerberg alles dafür vor, den chinesischen Markt unter den Bedingungen der Zentralregierung zu erschließen und hat dafür extra eine Software entwickeln lassen, die es dritten erlaubt, Facebook nach eigenen Kriterien zu zensieren. Motiviert durch seinen unbändigen Expansions- und Machttrieb zeigt sich hier, dass die von ihm versprochene „weltweite Community“ in erster Linie eine des sozialen Zwangs, der Abhängigkeit, der Unterdrückung, der Kontrolle und der Manipulation ist.

Keine falsche Freundschaft

Was Zuckerberg uns in den heutigen Zeiten zunehmender globaler Verwerfungen anzubieten hat, ist keine alternative Zukunft, sondern ein Horrorszenario, dass Georg Orwells 1984 bei weitem übertrumpft. Wir befinden uns in einem Umstrukturierungsprozess, der uns weg von den Formen der klassischen Demokratie und hin zur neuen Welt der „digitalen Demokratie“ leitet. Dieser Prozess verläuft schleichend und entzieht sich jeglicher Steuerungsinstanz. Während den etablierten Politiker*innen jede Chance zu fehlen scheint, diesen Prozess wirklich begreifen, geschweige denn mit ihm mithalten zu können, gelingt es gewieften Geschäftsmännern offensichtlich zumindest die mittelfristigen Folgen abzuschätzen und sich diese zu Nutze machen zu können.

Für Mark Zuckerberg bietet sich nun also die Chance als Besitzer des größten Kontrollinstrumentes der Welt alle Bereiche des (digitalen) menschlichen Lebens über einen langen Zeitraum zu beeinflussen. Die letzten Monate haben gezeigt, wie mit Einzelanalysen und gezielter Wahlwerbung über Facebook zahlreiche Möglichkeiten entstehen, um die Politik zu beeinflussen. Dies steigert die Nichteilhabe am politischen Leben weiter und wird die Tendenzen der sozialen Isolierung, des Konformismus und des (aus Mangel an sozialer Interaktion betriebenen) Dekadenzverhaltens weiter stärken. Was bahnt sich in einem System an in dem man nicht mehr aufmucken kann, weil man keinen Privatsphäre mehr hat? Kann eine solche Gesellschaft noch lernfähig sein oder wird sie ihren ständigen Stillstand fortwährend reproduzieren?

Das oft verheißungsvoll verkündete Zukunftsversprechen, die ganze Welt in eine digitale Gemeinschaft zu verwandeln, ist mit weitreichenden Folgen verbunden. Es ist derzeit nicht absehbar, mit welchen sozialen Implikationen die Digitalisierung der Arbeitswelt einhergeht, wie die Einführung von intelligenten Maschinen und die Vernetzung ganzer Werke und Arbeitsprozesse, sowie die Einführung automatisierter Fahrzeuge auf die Sozialstruktur rückwirken werden. Wenn Mark Zuckerberg das Jahr 2017 also damit verbracht hat, sich auf eine wahlkampfähnliche US-Tour zu begeben, mit der er das Ziel verfolgt in allen US-Bundesstaaten mit der Bevölkerung in Kontakt zu kommen, und im Gespräch die Frage zu klären, was sein Unternehmen zur Verbesserung der Welt leisten kann, sind wir alle gut beraten, den von ihm suggerierten Fortschritt skeptisch zu betrachten. Die Digitalisierung sollte dem Ziel der menschlichen Selbstermächtigung dienen und nicht fortwährend alte Herrschafts- und Unterdrückungsmechanismen in neuem Designe reproduzieren.

-----------------------------------------------------------------

Dieser Artikel erschien in Auszügen und mit einer anderen Schwerpunktsetzung bereits im März 2017 – Verfasst mit Moritz Michels unter dem Titel: Mark Augustus?

-----------------------------------------------------------------

Verweise:

Neue Zürcher Zeitung: Die Abschaffung des Bürgers, wie wir ihn kannten https://www.nzz.ch/meinung/die-abschaffung-des-buergers-wie-wir-ihn-kannten-ld.1319342

Spiegel Online: Projekt "Aquila" - Facebook präsentiert riesige Internet-Drohne http://www.spiegel.de/netzwelt/web/facebook-drohne-aquila-soll-millionen-menschen-internet-bringen-a-1046114.html//

Spiegel Online: Neues Geschäftsfeld Facebook testet Internet-Drohnen http://www.spiegel.de/netzwelt/web/facebook-drohne-mark-zuckerberg-meldet-erfolg-bei-testflug-a-1025837.html

MIT Technology Review: Mark Zuckerberg’s Long March to China https://www.technologyreview.com/s/602493/mark-zuckerbergs-long-march-to-china/

Neue Zürcher Zeitung: Es beginnt ein ganz neues Spiel https://www.nzz.ch/meinung/kommentare/digitalisierung-20-es-beginnt-ein-ganz-neues-spiel-ld.131433

New York Times: Facebook Said to Create Censorship Tool to Get Back Into China https://www.nytimes.com/2016/11/22/technology/facebook-censorship-tool-china.html?_r=0

Spiegel Online: Charmeoffensive in Peking Zuckerberg trifft Chinas Propagandachef http://www.spiegel.de/netzwelt/netzpolitik/mark-zuckerberg-trifft-chinas-propagandachef-a-1083286.html

Tagesschau.de: Möglicher Einsatz in China - Facebook entwickelte Zensur-Software https://www.tagesschau.de/ausland/china-facebook-101.html

Neue Zürcher Zeitung: Der „Wilde Westen“ muss gezähmt werden https://www.nzz.ch/feuilleton/medien/neue-medien-und-die-freiheit-der-wilde-westen-muss-gezaehmt-werden-ld.108349

BBC.com: China 'social credit': Beijing sets up huge system http://www.bbc.com/news/world-asia-china-34592186 //

CBSnews.com: China tests "social credit score" system to crack down on criticshttp://www.cbsnews.com/news/china-communist-party-social-credit-score-silence-critics/

Zeit Online: Ist das Dein Ernst, Mark? http://www.zeit.de/2017/11/facebook-mark-zuckerberg-werte-fluechtling-klage

Spiegel Online: Facebook und die US-Wahl Zuckerberg will nicht schuld an Trump sein http://www.spiegel.de/netzwelt/netzpolitik/facebook-und-donald-trump-mark-zuckerberg-will-nicht-schuld-sein-a-1120819.html

Neue Zürcher Zeitung: Anleitung zur Volksverdummung https://www.nzz.ch/meinung/kommentare/facebook-und-die-binaere-klickkultur-anleitung-zur-volksverdummung-ld.130709?reduced=true

FAZ.net: Facebook-Chef Mark Zuckerberg „Er will Kaiser werden“ http://www.faz.net/aktuell/feuilleton/medien/facebook-chef-mark-zuckerberg-er-will-kaiser-werden-14799717.html

Spiegel Online: Facebook-Chef Mark Zuckerberg geht auf große USA-Tour http://www.spiegel.de/panorama/leute/mark-zuckerberg-will-mit-menschen-in-50-us-staaten-sprechen-a-1128481.html

Neue Zürcher Zeitung: Das Flüstern der Dinge https://www.nzz.ch/feuilleton/chancen-der-digitalisierung-das-fluestern-der-dinge-ld.16058?reduced=true

Neue Zürcher Zeitung: Wider die digitale Euphorie https://www.nzz.ch/meinung/kommentare/plaedoyer-fuer-skepsis-und-realismus-wider-die-digitale-euphorie-ld.134484?reduced=true

08:23 02.10.2017
Dieser Beitrag gibt die Meinung des Autors wieder, nicht notwendigerweise die der Redaktion des Freitag.
Geschrieben von

Max Jansen

Max Jansen hat Soziologie, Volkswirtschaftslehre und Politikwissenschaften in Köln, Budapest und Beer Sheva studiert. Derzeit lebt er in Frankfurt.
Max Jansen

Kommentare 1