Neustart, bitte warten

Tech-Humanismus Facebook & Co. entdecken auf einmal ihre Menschlichkeit. Eine Gefahr für die Demokratie bleiben sie trotzdem
Neustart, bitte warten

Illustration: Nadine Kolodziey für der Freitag

Das Silicon Valley hat Kreide gefressen. Nach Jahrzehnten der Skrupellosigkeit sehen sich große Konzerne wie Facebook und Google plötzlich gezwungen, für alles Mögliche Abbitte zu leisten. Sie bedauern die Hetze im Netz und die Bots. Sie schämen sich für Fake News, für russische Trollfabriken und die Cartoons, die Kindern auf Youtube Angst einjagen. Ganz besonders aber fürchten sie um unsere Gehirne.

Der Napster-Gründer und Ex-Facebook-Berater sowie -Anteilseigner Sean Parker lamentiert öffentlich über „die unbeabsichtigten Nebenwirkungen“ der Plattform, die er selbst mitentwickelt hat: „Weiß Gott, was das mit den Gehirnen unserer Kinder anstellt.“ Justin Rosenstein – ein ITler, der Facebooks Gefällt-mir-Funktion mit erfunden hat – bereut, einer Technologie in die Welt verholfen zu haben, die er nun für schädlich hält. „Alle sind abgelenkt“, sagt er, „die ganze Zeit“ (der Freitag 10/2018).

Das ist an sich nichts Neues: Schon seit den 1990er Jahren, als immer mehr Menschen das Internet zu nutzen begannen, hagelt es Warnungen vor den Folgen. Der Cyberspace wirkte auf viele Beobachter wie ein Paralleluniversum: Sie sorgten sich, dass Kinder im Netz mit Fremden chatten und über Pornos stolpern würden. Eine Studie der Carnegie Mellon University aus dem Jahr 1998 kam zu dem Ergebnis, wer Zeit online verbringe, werde einsam, depressiv und asozial. Der US-Aktivist Eli Pariser vertrat in seinem Buch The Filter Bubble die These, Algorithmen würden uns isolieren und zu Solipsisten machen, indem sie uns nur das anzeigen, was wir sehen wollen. Die Soziologin Sherry Turkle, die am Massachusetts Institute of Technology (MIT) lehrt, warnte davor, ständige Erreichbarkeit und die Flut an Push-Meldungen mache sinnvolle soziale Interaktionen unmöglich.

Trotzdem: In der Branche ließ man sich davon nicht beirren und glaubte weiter an eine Art Techno-Utopie. Das Silicon Valley schien überzeugt, dass die dort entwickelten Werk- und Spielzeuge stets Gutes bewirken würden – und dass jeder, der das infrage stellt, ein Maschinenstürmer sein müsse. Doch die Skepsis ob der unheilvollen Auswirkungen der digitalen Welt wuchs. Sie drohte nach der Wahl Donald Trumps zum Rückschlag für das Silicon Valley als Ganzes zu werden. Jetzt erkennen selbst dort einige Insider langsam an, dass ihre Produkte wohl auch Schaden anrichten könnten. Sean Parker und Justin Rosenstein sind prominente Beispiele für eine Gruppe von Technikkritikern innerhalb des Silicon Valley, die man „Technik-Humanisten“ nennen könnte.

Sucht durch Design

Mittlerweile ist bekannt, dass viele Social-Media-Plattformen so gestaltet wurden, dass ihre Nutzer süchtig werden, um so möglichst viel von deren Aufmerksamkeit monetarisieren zu können. Tech-Humanisten halten dieses Geschäftsmodell für gesundheitsschädlich und inhuman – weil es unser psychisches Wohlergehen schädige und uns in einer Art und Weise konditioniere, die unsere Menschlichkeit verkümmern lasse. Die Lösung, die sie vorschlagen, besteht in besserem Design. Indem man Technologien so überarbeite, dass sie die Nutzer weniger süchtig macht und weniger manipuliert, könne man Technologie „humanisieren“.

Das Zentrum des neuen Tech-Humanismus ist das Anfang des Jahres gegründete Center for Humane Technology in San Francisco. Sein Geschäftsführer ist Tristan Harris, ein ehemaliger „Design-Ethiker“ bei Google, über den das Magazin The Atlantic einmal schrieb, er sei das, was in Silicon Valley einem Gewissen am nächsten komme. Harris warnt schon seit Jahren vor den Gefahren des Sucht-Potenzials digitaler Technologien. Die Tech-Humanisten versuchen sich gewissermaßen als loyale Kritiker des Silicon Valley: Sie stellen eine sehr spezifische Diagnose dazu, was falsch gelaufen und was nun dagegen zu tun sei. Doch ihre eigentliche Bedeutung besteht darin, dass einige der mächtigsten Leute der Digital-Industrie begonnen haben, ihre Sprache zu sprechen. Selbst Mark Zuckerberg erklärte im Januar, Facebook gehe es von nun an darum, „sinnvoll verbrachte Zeit“ auf der Plattform zu maximieren, anstatt wie bislang alles darauf auszurichten, dass die Nutzer möglichst viel Zeit auf Facebook verbringen – egal womit. Mit „sinnvoll verbrachter Zeit“ meint Zuckerberg Zeit, in der die Nutzer mit „Freunden“ interagieren, und nicht mit Unternehmen, Marken oder Medien. Der News-Feed-Algorithmus priorisiere diese „sinnvolleren“ Aktivitäten bereits, so Zuckerberg.

Nachdem sie ihre Kritiker jahrelang ignoriert haben, entwickeln die Branchenführer also zumindest ein gewisses Problembewusstsein. Den Tech-Humanisten kommt das Verdienst zu, die Aufmerksamkeit auf eines der Probleme gelenkt zu haben – auf die manipulativen Design-Entscheidungen, die das Silicon Valley getroffen hat. Bei diesen Entscheidungen handelt es sich allerdings nur um Symptome eines viel größeren Problems, nämlich des Umstands, dass die digitale Infrastruktur, die unser persönliches, soziales und gesellschaftliches Leben zunehmend prägt, einer Handvoll von Milliardären gehört und von diesen kontrolliert wird. Da sie die Machtfrage ignoriert, muss die Diagnose der Tech-Humanisten unvollständig bleiben – und könnte sogar dazu beitragen, dass die Branche sich davor drückt, Grundlegendes zu verändern. Wenn Leute wie Zuckerberg den Tech-Humanismus aufgreifen, wird er sich aller Wahrscheinlichkeit nach in oberflächlichen Korrekturen erschöpfen. Am Ende könnte die Macht des Silicon Valley sogar noch zunehmen.

Es gibt gute Gründe dafür, warum die Sprache des Tech-Humanismus im Silicon Valley so gut ankommt: Die Rede von der „Humanisierung“ der Technik ist so alt wie das Silicon Valley selbst, und gleichzeitig die Quelle seiner Macht. Angefangen hat das in den 1960er Jahren, als das Silicon Valley noch aus einer Handvoll Elektronikfirmen inmitten von kalifornischen Obstgärten bestand. Computer waren damals Großrechner: groß, teuer und schwer zu bedienen. Nur Konzerne, Universitäten und Regierungsbehörden konnten sie sich leisten, außerdem waren sie bestimmen Aufgaben vorbehalten, etwa um die Flugbahn von Raketen oder die Kreditwürdigkeit von Personen und Unternehmen zu berechnen. Von diesen wenigen Großkunden war die Tech-Industrie abhängig. Hinzu kam, dass Computer ein Image-Problem hatten: Für Anti-Kriegs-Aktivisten waren sie Waffen der Maschinerie, die in Vietnam Tausende tötete. Für Intellektuelle wie den Sozialkritiker Lewis Mumford stellten sie Werkzeuge einer schleichenden Technokratie dar, die die persönliche Freiheit zu zerstören drohte.

Doch im Laufe der 1960er und 1970er Jahre half eine Reihe von Innovationen in Nordkalifornien dabei, beide Probleme zu lösen. Dazu gehörte die grafische Benutzeroberfläche, die Maus und der Mikroprozessor. Computer schrumpften, wurden benutzerfreundlicher und interaktiver, was dazu führte, dass die Abhängigkeit des Silicon Valley von wenigen Großabnehmern abnahm, während digitale Technologien ein freundlicheres Image bekamen. Die Pioniere dieser Transformation glaubten, sie würden den Umgang mit Computern „menschlicher“ gestalten, und Maschinen entwickeln, die dem Menschen dabei helfen könnten, seine Potenziale zu entfalten. Dabei orientierten sie sich stark an der Gegenkultur der Zeit und deren Bemühungen, „humanere“ Lebensformen zu entwickeln.

Hippies weg von der Macht

Im Zentrum dieses Gewusels aus Hobbybastlern, Hackern, Hippies und Ingenieuren stand Steward Brand, der Gründer des Whole Earth Catalog. In einem berühmten Artikel für den Rolling Stone forderte er 1972 einen neuen Ansatz für den Umgang mit Computern, der „dem Interesse des Menschen dient, nicht dem der Maschine“. Brands Schüler antworteten auf diese Forderung, indem sie durch technische Innovationen Computer zu dem machten, was wir heute kennen. Kein anderer trug mehr zu dieser Umwälzung bei als Steve Jobs, der in den Achtzigern mit dem Macintosh die Ära des Personal Computers für die Massen und in den Neunzigern mit dem Iphone die Ära des Smartphones einläutete.

„Werkzeuge für den Menschen“ herzustellen, war obendrein gut fürs Geschäft. Denn der Ansatz, Computer menschlichen Bedürfnissen anzupassen, ermöglichte es dem Silicon Valley, in jede Facette unseres Lebens einzudringen und Geräte zu entwickeln, die die Anforderungen der Gegenkultur von einst nach digitaler Vernetzung, Interaktivität und individuellen Ausdrucksmöglichkeiten erfüllen.

Am Ende aber führte der Versuch, Computer zu humanisieren, eben zu der Situation, die die Tech-Humanisten heute für entmenschlichend halten: Wir sind umgeben von einem Dschungel aus Displays und Bildschirmen, die uns den letzten Rest Aufmerksamkeit rauben. Dem sollen wir den Tech-Humanisten zufolge nun entkommen, indem die Geräte noch weiter „humanisiert“ und mithilfe besserer Designs so eingesetzt werden, dass sie der menschlichen Natur dienen, anstatt sie zu verderben.

Tech-Humanisten sagen, sie wollen Mensch und Technik miteinander in Einklang bringen. Doch dieser Versuch gründet auf einem vollkommenen Missverständnis des Verhältnisses zwischen Mensch und Technik: der Illusion, dass die beiden jemals getrennt voneinander existieren können. Aber Menschen sind schlechterdings nicht ohne Technik vorstellbar. Unsere Gattungsgeschichte begann, als wir anfingen, Werkzeuge herzustellen. Der Homo habilis hinterließ seine geschärften Steine in ganz Afrika. Seine Nachfahren fingen damit an, Steine gegeneinander zu schlagen, um Funken und damit Feuer zu entfachen. Dank des Feuers kochten und rodeten sie, düngten ihre Äcker mit Asche und begannen im Feuerschein, die Wände ihrer Höhlen zu bemalen. Der griechische Tragödiendichter Aischylos besang diese Zeit, als er schrieb: „Indem er den Göttern das Feuer stahl, begründete Prometheus alle Künste des Menschen.“

Mit anderen Worten: Menschheit und Technik sind nicht nur untrennbar miteinander verbunden, sie verändern sich auch laufend wechselseitig. Das Wesen der menschlichen Natur besteht darin, dass sie sich verändert. Deshalb kann sie auch keine Grundlage dafür bieten, die Auswirkungen von Technologien zu bewerten. Doch die Annahme, die menschliche Natur würde sich nicht ändern, kann sehr nützlich sein. Wer sie als etwas Statisches und Wesenhaftes beschreibt, verleiht sich selbst Macht. Indem er uns sagt, wer wir sind, sagt er uns gleichzeitig, wie wir sein sollen.

Ob sie sich dessen bewusst sind oder nicht: Das ist genau das, was die Tech-Humanisten tun, wenn sie davon sprechen, dass Technologie unsere menschliche Natur bedrohe, als hätte sich letztere zwischen Paläozän und Iphone nicht groß verändert. Genauso bevormundend sind ihre Stellungnahmen, wenn sie in der Sprache der öffentlichen Gesundheitsvorsorge daherkommen: Die Lösung einer Gesundheitskrise erfordert Expertenwissen. Zugleich schließt sie die Möglichkeit einer demokratischen Debatte aus. Schließlich stimmt man nicht darüber ab, wie eine Krankheit behandelt werden soll – sondern man ruft einen Arzt.

Dementsprechend fallen die Vorschläge der Tech-Humanisten aus: Sie schlagen vor, Displays auf Schwarzweiß einzustellen, App-Benachrichtigungen abzustellen und Handys außerhalb des Schlafzimmers aufzuladen. Damit aber zielen sie lediglich darauf ab, wie der einzelne Nutzer mit seinen Geräten interagiert, anstatt die strukturellen Defizite der Branche anzugehen: Etwa die Tatsache, dass eine kleine Handvoll Unternehmen im Besitz unseres digitalen Lebens ist und es zu Profitzwecken ausbeutet. Das aber ist ein durch und durch politisches und gesellschaftliches Problem. Indem die Tech-Humanisten es zu einer Frage der Gesundheit und Humanität erklären, und die Lösung zu einer Frage des Designs, personalisieren und entpolitisieren sie es.

Das dürfte auch der Grund dafür sein, warum ihr Ansatz für die Tech-Industrie so attraktiv ist. Weit davon entfernt, Silicon Valley wirklich in die Schranken zu weisen, bietet der Tech-Humanismus der Branche eine praktische Möglichkeit, öffentliche Bedenken abzumoderieren, ohne dass sie etwas von ihrer Macht abgeben müsste. Es ist leicht, sich eine Version von Facebook vorzustellen, die den Prinzipien des Tech-Humanismus gerecht würde – und trotzdem ein profitables Monopol bliebe. Tatsächlich könnten diese Prinzipien Facebook sogar noch profitabler und mächtiger machen, indem sie dabei helfen, neue Geschäftsfelder zu erschließen.

Als Mark Zuckerberg ankündigte, bei Facebook sei von nun an „sinnvoll verbrachte Zeit“ ein wichtigeres Ziel als die insgesamt auf der Plattform verbrachte Zeit, dauerte es nur ein paar Wochen, bis das Unternehmen seine Zahlen für das vierte Quartal des Jahres 2017 bekanntgab: Es stellte sich heraus, dass die insgesamt auf der Seite verbrachte Zeit um etwa fünf Prozent oder 50 Millionen Stunden pro Tag zurückgegangen war. Zuckerberg zufolge war das die Folge von zwei Optimierungen des News Feeds, der nun „sinnvolle“ Interaktionen mit „Freunden“ gegenüber dem reinen Konsum von „öffentlichen Inhalten“ wie Videos und Nachrichten höher gewichte. Dies stelle sicher, dass „Facebook nicht nur Spaß macht, sondern auch dem Wohlbefinden der Nutzer dient“.

Zuckerberg erklärte, diese Veränderungen würden die insgesamt auf der Seite verbrachte Zeit verringern: „Aber die Zeit, die Sie auf Facebook verbringen, wird wertvoller sein.“ Das mag beschreiben, was User für wertvoll halten – bezieht sich aber auch darauf, was Facebook für wertvoll hält. Vor Kurzem sagte Zuckerberg in einem Interview: „Selbst wenn die insgesamt auf der Seite verbrachte Zeit zurückgeht, wird es die Community und auch die geschäftliche Seite des Unternehmens langfristig stärken, wenn die Menschen auf Facebook mehr Zeit damit verbringen, Beziehungen zu Leuten aufzubauen, die ihnen etwas bedeuten – egal, was die Wall Street kurzfristig darüber denkt.”

Facebooks Co-Geschäftsführerin Sheryl Sandberg erklärte, dass diese Umorientierung „mehr Monetarisierungsmöglichkeiten“ eröffne. Wie soll das gehen? Wir wissen: Daten sind das Lebenselixier von Facebook – doch nicht alle Daten sind gleich. Eine der wertvollsten Datenquellen für Facebook wird dazu verwendet, den sogenannten Koeffizienten zu berechnen. Dieser misst die Stärke einer Verbindung zwischen zwei Usern – Zuckerberg nannte ihn einmal „einen Index für jede Beziehung“. Facebook speichert jede Interaktion, die man mit einem anderen User hat – vom Liken des Posts eines Freundes oder dem Ansehen seines oder ihres Profils, bis hin zum Versenden von Nachrichten. Diese Aktivitäten verleihen Facebook ein Gefühl dafür, wie nahe sich zwei Personen stehen.

Manchester-Digitalismus

Warum ist der Koeffizient so wertvoll? Weil er algorithmische Entscheidungen lenkt, welche Inhalte ein Nutzer sieht und in welcher Reihenfolge. Er hilft dabei, gezielte Werbung zu platzieren, sodass einem Nutzer Dinge gezeigt werden, die Freunden gefallen, mit denen man häufig interagiert. Werber können die engsten Freunde derjenigen User ins Visier nehmen, denen ihr Produkt bereits gefällt – mit der Annahme, dass enge Freunde dazu neigen, dieselben Dinge zu mögen. Wenn Mark Zuckerberg also davon spricht, er wolle für mehr „sinnvolle Interaktionen“ sorgen, gibt er damit nicht dem Druck nach, sich besser um seine User zu kümmern. Den Fokus auf sinnvoll verbrachte Zeit zu legen, bedeutet vielmehr, datenreiche persönliche Interaktionen zu priorisieren, die das Unternehmen nutzen kann, um seine Plattform noch gewinnbringender zu machen.

Mit anderen Worten: Facebook kann die Tiefe der Datengewinnung vor deren Breite stellen. Das ist ein weiser Schachzug, der als Konzession an die Kritiker daherkommt, aber zugleich die grundlegende Beschränkung von Facebooks gegenwärtigem Wachstumsmodell anerkennt. Der Tag hat nur 24 Stunden. Facebook kann die insgesamt auf der Plattform verbrachte Zeit nicht endlos ausdehnen – es muss mehr Wert aus weniger Zeit schöpfen.

Dieser Prozess erinnert an ein Stadium des Kapitalismus im 19. Jahrhundert, als den englischen Fabrikbesitzern klar wurde, dass sie den Arbeitstag nicht unendlich ausdehnen konnten. Irgendwann starben die Arbeiter vor Erschöpfung, erhoben sich oder drängten das Parlament, die Arbeitszeit gesetzlich zu beschränken. Also mussten die Kapitalisten Wege finden, um die Arbeitszeit der Lohnabhängigen wertvoller zu machen und mehr Geld aus jedem Augenblick herauszuholen, anstatt immer weitere Augenblicke hinzuzufügen. Sie taten dies, indem sie die industrielle Produktion effizienter gestalteten: Neue Technologien wurden entwickelt, die mehr Wert aus den Arbeitern herausquetschten als jemals zuvor. Vor einer ähnlichen Situation steht Facebook heute. Es muss aus der Aufmerksamkeit der User mehr Wert extrahieren – und die Sprache und Begriffe des Tech-Humanismus können dabei helfen.

Die Tech-Humanisten stehen in einer Tradition, auf der das heutige Silicon Valley aufbaut. Sie halten wie ihre Vorgänger Technik und Menschheit für zwei unabhängige Dinge, die in Einklang gebracht werden sollen. Aber wir können auch anders über das Verhältnis von Leben und Technik denken – so, dass es unserer Gattungsgeschichte eher entspricht und dabei hilft, auf eine demokratischere Zukunft hinzuarbeiten. Diese Tradition sieht uns Menschen als Mischwesen aus Tieren und Maschinen – als „Cyborgs“, um die Biologin und Philosophin Donna Haraway zu zitieren. Zu sagen, wir seien alle Cyborgs, bedeutet nicht, dass alle Technologien gut für uns wären, oder dass wir jede neue Erfindung sofort völlig kritiklos übernehmen sollten. Aber es legt nahe, dass es im Umgang mit der Technik nicht darum gehen kann, die Technik „menschlicher“ zu machen.

Im Gegensatz dazu sagt uns das Cyborg-Denkmodell, dass die Anwendung von Technik einen Wesenszug unserer Gattung darstellt. Es ist unvermeidbar, dass wir uns kontinuierlich zusammen mit unseren Maschinen weiterentwickeln; aber die Art und Weise, wie das vonstatten geht, ist es nicht. Sie ist vielmehr davon bestimmt, wem die Maschinen gehören und wer sie betreibt. Es geht um eine Machtfrage.

Heute liegt diese Macht in den Händen von Konzernen, die die Technologien besitzen und sie zu Profitzwecken einsetzen. Die Skandale, die die großen Tech-Unternehmen in Verruf gebracht haben, haben alle eine gemeinsame Ursache: Überwachung, Fake News und die Arbeitsbedingungen in den Lagern von Amazon sind profitabel. Wären sie es nicht, würden sie nicht existieren. Sie sind Symptome des grundlegenden Demokratiedefizits eines Systems, das den Reichtum der Wenigen über die Bedürfnisse und Anliegen der Vielen stellt.

Aber es gibt eine Alternative. Wenn die Nutzung von Technologien für den Menschen als Menschen wesentlich ist, sollte die Entscheidungsgewalt darüber, wie wir mit Technik leben und umgehen, ein fundamentales Menschenrecht sein. Die Entscheidungen, die unser technisiertes Leben am meisten betreffen, sind viel zu wichtig, um sie Mark Zuckerberg, irgendwelchen Investoren oder einer Handvoll „Human Designern“ zu überlassen. Sie sollten von uns allen getroffen werden, gemeinsam. Anstatt die Technik zu humanisieren, sollten wir versuchen, sie zu demokratisieren.

Was bedeutet das in der Praxis? Zunächst einmal muss die Macht des Silicon Valley beschnitten werden. Kartellrecht und Steuerpolitik wären die Werkzeuge, uns das Vermögen zurückzuholen, das Big Tech aus gesellschaftlichen Ressourcen gewonnen hat. Schließlich würde das Silicon Valley ohne staatliche Subventionen und ohne die riesigen Datenmengen, die wir alle kostenlos zur Verfügung stellen, überhaupt nicht existieren. Zusätzlich zur Besteuerung und Aufspaltung von Technologie-Firmen sollten demokratische Regierungen Regeln aufstellen, wie diese Firmen unsere persönlichen Daten erheben und verwenden dürfen. Aber eine strengere Regulierung reicht nicht aus. Zusätzlich müssen wir unsere digitale Infrastruktur aus dem Privatbesitz einiger weniger Konzerne befreien.

Wir müssen Alternativen entwickeln, die sich in öffentlicher oder genossenschaftlicher Hand befinden und deren Steuerung die Sache der Lohnabhängigen, der Nutzer und Nutzerinnen, Bürgerinnen und Bürger ist. Diese demokratischen digitalen Strukturen könnten sich daran orientieren und so entwickelt werden, dass sie individuellen und sozialen Bedürfnissen entsprechen, anstatt wie heute nur stets Profite für Investoren anzuhäufen.

Es ist Zeit, Neues zu wagen, zu experimentieren, immer unter dem Leitstern der Demokratie im digitalen Zeitalter. Es geht dabei um viel. Das entstandene Misstrauen gegenüber den digitalen Technologien ist eine gewaltige Chance, die möglicherweise so schnell nicht mehr wiederkommt.

Moira Weigel und Ben Tarnoff geben das dreimal im Jahr erscheinende Magazin Logic. A magazine about technology heraus

Übersetzung: Holger Hutt

06:00 22.08.2018
Geschrieben von

Ben Tarnoff, Moira Weigel | The Guardian

Der Freitag ist Syndication-Partner der britischen Tageszeitung The Guardian
Schreiber 0 Leser 6686
The Guardian

Ihnen gefällt der Artikel?

Dann lesen Sie noch mehr Beiträge und testen Sie die nächsten drei Ausgaben des Freitag kostenlos:

Abobreaker Startseite 3NOP plus Verl. ZU Baumwolltasche

Kommentare 4