Macht und Widerstand

Leseprobe "Obwohl wir sie lieben, wollen wir auf gar keinen Fall wie Hunde sein, zumindest nicht in Bezug auf unsere Machtbeziehungen zu anderen Menschen. Und doch müssen wir befürchten, dass Facebook & Co. uns zu Hunden machen wollen."
Macht und Widerstand
Foto: Nicolas Asfouri/AFP/Getty Images

Einleitung, mit Katzen

Fangen wir mit Katzen an.

Online sind Katzen überall. Sie liefern die viralsten Meme und die niedlichsten Videos.

Wieso schaffen Katzen das eher als Hunde?

Es war sicher nicht so, dass die Hunde irgendwann zu den Urmenschen gekommen sind, und darum gebettelt haben, mit ihnen leben zu dürfen. Wir haben sie domestiziert, erst die Zucht hat sie gehorsam gemacht. Jetzt lassen sie sich erziehen und sind berechenbar. Sie arbeiten für uns. Damit soll überhaupt nichts gegen Hunde gesagt werden. Es ist toll, dass sie treu und zuverlässig sind.

Katzen sind anders. Sie tauchten einfach irgendwann auf und haben sich mehr oder weniger selbst domestiziert. Sie sind nicht berechenbar. Beliebte Hundevideos zeigen oft, wie ein Hund dressiert wird, während die bei weitem beliebtesten Katzenvideos solche sind, die komische und erstaunliche Verhaltensweisen eingefangen haben.

Katzen sind intelligent, aber nicht die beste Wahl, wenn du ein Haustier haben willst, das sich gut abrichten lässt. Sieh dir mal einen Online-Katzenzirkus an: Es ist faszinierend, wie die Katzen sich unverkennbar selbst entscheiden, ob sie ein gelerntes Kunststück vorführen, lieber gar nichts tun oder zwischen den Zuschauerbänken herumwandern wollen.

Katzen haben das scheinbar Unmögliche geschafft: Sie haben sich in die moderne Hightech-Welt integriert, ohne sich selbst aufzugeben. Sie entscheiden nach wie vor selbst, was sie tun wollen. Es steht nicht zu befürchten, dass irgendein tückisches Mem, das von Algorithmen konstruiert und von einem unheimlichen und unsichtbaren Oligarchen bezahlt wurde, deine Katze unter seine Kontrolle bringt. Niemand kann deine Katze unter Kontrolle bringen, weder du selbst noch sonst irgendjemand.

Ach, wie schön wäre es, wenn wir sicher sein könnten, genauso wenig manipulierbar zu sein wie eine Katze! Wir können nur träumen und hoffen, dass sich der Mensch im Internet in Zukunft genauso verhalten wird wie die Katzen in den Videos.

Obwohl wir sie lieben, wollen wir auf gar keinen Fall wie Hunde sein, zumindest nicht in Bezug auf unsere Machtbeziehungen zu anderen Menschen. Und doch müssen wir befürchten, dass Facebook & Co. uns zu Hunden machen wollen. Wenn wir online mal wieder irgendwelchen Mist gebaut haben, dann wahrscheinlich, weil irgendjemand auf seiner Hundepfeife gepfiffen hat. Hundepfeifen können nur von Hunden gehört werden. Wir merken, dass wir Gefahr laufen, zu Opfern einer heimlichen Kontrolle zu werden.

In diesem Buch geht es darum, wie du eine Katze werden kannst. Wie kannst du selbstbestimmt bleiben in einer Welt, in der du rund um die Uhr überwacht und ständig von Algorithmen bedrängt wirst, die von einigen der reichsten Konzerne der Welt auf dich losgelassen werden? Von Konzernen, die nur Geld verdienen können, weil sie sich dafür bezahlen lassen, dein Verhalten zu manipulieren? Wie kannst du trotz alledem eine Katze sein?

Der Titel ist keine Lüge: in diesem Buch werden zehn Gründe präsentiert, alle deine Social-Media-Accounts sofort zu löschen. Ich hoffe, sie werden dich überzeugen. Aber selbst wenn du alle zehn Gründe richtig findest, wirst du vielleicht trotzdem ein paar deiner Accounts behalten wollen. Das ist deine eigene Entscheidung – als Katze.

Diese zehn Gründe werden dir einige Denkanstöße geben, wie du deine eigene Situation analysieren kannst, um zu entscheiden, was für dich am besten ist. Aber letzten Endes kannst nur du selbst das wissen.

---

Nachtrag des Autors, März 2018

Dieses Buch wurde hauptsächlich in den letzten Monaten des Jahres 2017 geschrieben, aber die bisherigen Ereignisse im Jahr 2018 sind für meine Thesen extrem relevant und brisant. Das Manuskript war fertig, zu Ende, finito – schon auf dem Weg in die Druckerei –, als die skandalösen Enthüllungen über Cambridge Analytica quasi über Nacht eine spontane Grassroots-Bewegung von Menschen ins Leben riefen, die ihre Facebook-Accounts löschten.

Leider haben nicht alle Meinungsführer und Persönlichkeiten des öffentlichen Lebens darauf mit der gebotenen Zivilcourage reagiert. Es gab kluge Leute, die aufhören wollten, es aber nicht schafften. Es gab andere, die darauf hinwiesen, dass nicht jeder privilegiert genug sei, um aufhören zu können, und daher fühle es sich grausam an, die weniger Privilegierten zurückzulassen. Wieder andere sagten, es würde nichts bringen, einfach nur aufzuhören, weil es darauf ankomme, die Regierung unter Druck zu setzen, Facebook zu regulieren. Insgesamt war die Haltung vieler professioneller Kommentatoren gegenüber Menschen, die ihre Accounts löschten, herablassend und diffamierend. Und völlig falsch.

Also wirklich, Leute! Ja, es ist ein Privileg, aussteigen zu können. Viele von uns können das nicht, aus guten Gründen. Aber wenn du die Möglichkeit hast aufzuhören, es aber nicht tust, dann unterstützt du damit nicht etwa die weniger Privilegierten, sondern du stärkst das System, in dem zahllose Menschen gefangen sind. Ich bin der lebende Beweis dafür, dass man auch ohne Social-Media-Accounts in den Medien präsent sein kann. Diejenigen unter uns, die sich frei entscheiden können, müssen ihren Worten auch Taten folgen lassen, weil sonst alles graue Theorie bleibt. Das Geschäft folgt dem Geld. Also haben wir, die wir uns frei entscheiden können, Macht und Verantwortung. Du, ja du, hast die konstruktive Verantwortung, dir zu überlegen und zu zeigen, wie man ohne diesen Mist leben kann, der die Gesellschaft zerstört. Auszusteigen ist bis auf weiteres der einzige Weg, um herauszufinden, wodurch die grandiose Fehlkonstruktion Social Media ersetzt werden kann.

---

1
Du verlierst deinen freien Willen

Willkommen in deinem Käfig, der überallhin mitkommt

Etwas völlig Neues passiert auf der Welt. Seit kaum fünf oder zehn Jahren tragen wir beinahe alle ein kleines Gerät mit uns herum, das »Smartphone« genannt wird und für algorithmische Verhaltensmodifikation geeignet ist. Viele von uns nutzen außerdem sogenannte »Smart Speaker«, auf dem Küchenregal oder im Auto. Wir werden rund um die Uhr beobachtet und registriert und erhalten ständig automatisiertes Feedback. Dabei werden wir unmerklich von unsichtbaren Technikern für unbekannte Zwecke hypnotisiert. Mittlerweile sind wir alle zu Versuchskaninchen geworden.

Diverse Algorithmen saugen Daten über dich auf, jede Sekunde, ununterbrochen. Auf was für Links klickst du? Was für Videos siehst du dir bis zum Ende an? Wie schnell springst du von einer Sache zur nächsten? Wo befindest du dich, während du das tust? Mit wem hast du Kontakt, persönlich und online? Welchen Gesichtsausdruck machst du? Wie verändert sich deine Hautfarbe in verschiedenen Situationen? Womit warst du gerade beschäftigt, als du beschlossen hast, etwas zu kaufen oder nicht zu kaufen? Zu wählen oder nicht zu wählen?

All diese Messdaten und viele andere werden mit ähnlichen Daten aus dem Leben von diversen anderen Menschen abgeglichen, die durch massives Ausforschen erfasst wurden. Algorithmen korrelieren das, was du tust, mit dem, was so gut wie alle anderen getan haben.

Die Algorithmen verstehen dich zwar nicht wirklich, aber ihre Zahlen bringen ihren Besitzern Macht, vor allem, wenn es viele Zahlen sind. Wenn viele andere Menschen, die gern das Gleiche essen wie du, außerdem von dem Bild eines Kandidaten mit rosa Umrahmung eher abgestoßen waren als von einem mit blauem Rand, dann wird es bei dir wahrscheinlich genauso sein, und niemand muss genau wissen, warum das so ist. Statistiken sind zuverlässig, aber nur als dumme Zahlensuppe.

Bist du traurig, einsam, ängstlich? Glücklich, selbstbewusst? Bekommst du deine Tage? Hast du Abstiegsängste? Sogenannte Werbetreibende können präzise den Moment abpassen, wenn du genau in der richtigen Stimmung bist, um dich mit Anzeigen zu beeinflussen, die auch bei Leuten funktioniert haben, die bestimmte Eigenschaften und Situationen mit dir gemein haben.

Ich sage »sogenannte«, weil es einfach falsch ist, von Werbung zu sprechen, wenn Menschen vorsätzlich manipuliert werden. Früher hatte ein Werbetreibender nur eine flüchtige Chance, seine Botschaft rüberzubringen. Diese Botschaft war vielleicht verlogen oder nervig, aber sie war auch schnell wieder vorbei. Hinzu kommt, dass unzählige Menschen dieselben TV-Werbespots und gedruckten Anzeigen sahen, Werbung also nicht auf den Einzelnen zugeschnitten war. Der wichtigste Unterschied ist aber, dass du nicht ständig beobachtet und analysiert wurdest, um dir dynamisch optimierte Reize servieren zu können – seien es nun Inhalte oder Anzeigen –, mit denen dein Interesse geweckt und dein Verhalten verändert werden sollte.

Heute bekommt jede Person, die in einem sozialen Netzwerk unterwegs ist, individualisierte und ständig optimierte Reize serviert, pausenlos, solange sie ihr Smartphone benutzt. Was früher Werbung genannt wurde, muss heute als unaufhörliche Verhaltensmodifikation in gigantischem Umfang verstanden werden.

Sei jetzt bitte nicht beleidigt. Ja, ich will andeuten, dass du dich vielleicht – nur ein ganz kleines bisschen – in einen wohlerzogenen Hund verwandelst, oder vielleicht sogar in etwas nicht ganz so Sympathisches, etwa eine Laborratte oder einen Roboter. Dass du von den Kunden großer Konzerne ferngesteuert wirst – wenn auch nur ein kleines bisschen. Aber falls ich recht habe und du dir dieser Vorgänge bewusst wirst, könnte es dich befreien – also gib diesem Buch eine Chance, okay?

Bevor Computer erfunden wurden, entstand eine wissenschaftliche Bewegung, die als »Behaviorismus« bekannt wurde. Behavioristen erforschten neue, systematischere, sterilere und abgedrehtere Methoden, um Tiere und Menschen abzurichten.

Einer der bekanntesten Behavioristen war der US-amerikanische Psychologe B. F. Skinner. Er entwickelte die sogenannte »Skinner-Box«, einen Käfig, in dem ein Tier eine Belohnung erhält, wenn es eine bestimmte Aktion ausführt. Dabei ist kein Mensch beteiligt, der das Tier vielleicht streichelt oder ihm etwas zuflüstert, es ist eine völlig isolierte mechanische Aktion – eine neue Dressurmethode für moderne Zeiten. Diverse Behavioristen, von denen viele etwas bedrohlich wirken, probierten diese Methode auch am Menschen aus. In vielen Fällen funktionierten solche behavioristischen Konditionierungen, was großes Entsetzen auslöste und eine Reihe von gruseligen »Mind control«-Horror- und Science-Fiction-Filmen nach sich zog.

Es ist eine verhängnisvolle Tatsache, dass man einen Menschen mit behavioristischen Methoden manipulieren kann, ohne dass er es überhaupt merkt. Bis vor kurzem geschah das nur sehr selten, außer vielleicht, wenn du dich an einer Universität als freiwilliger Proband für ein Experiment im Keller der Psychologischen Fakultät gemeldet hast. Dann hat man dich in einen Raum geführt, wo du getestet wurdest, während dich jemand durch ein verspiegeltes Fenster beobachtet hat. Obwohl dir klar war, dass du bei einem Experiment mitmachst, konntest du nicht erkennen, wie du manipuliert wurdest. Aber zumindest hattest du vorher deine Zustimmung erteilt, dass man dich irgendwie manipulieren würde. (Na ja, auch nicht immer. Es wurden diverse grausame Experimente an Gefängnisinsassen, Armen und vor allem an Probanden bestimmter Hautfarben durchgeführt.)

In diesem Buch sage ich, dass das, was plötzlich normal geworden ist – allgegenwärtige Überwachung und ständige, subtile Manipulation –, unmoralisch, grausam, gefährlich und unmenschlich ist.

Gefährlich? Jawohl, gefährlich, denn wer weiß schon, wer sich diese Macht zunutze machen wird, und wofür?

Der verrückte Wissenschaftler hat doch Mitleid mit dem Hund im Käfig

Vielleicht hast du schon einmal die weinerlichen Geständnisse der Gründer von Social-Media-Imperien gehört, die ich allerdings lieber als »Verhaltensmodifikations-Imperien« bezeichne. Das hat Sean Parker, der erste Präsident von Facebook, gesagt:

"Wir müssen dir sozusagen ab und zu einen kleinen Dopamin-Kick verpassen, weil jemand ein Foto oder ein Posting oder sonst was geliked oder kommentiert hat. […] Das ist eine Feedbackschleife für soziale Anerkennung […] genau das, was ein Hacker wie ich sich ausdenken würde, weil man damit eine Schwachstelle der menschlichen Psyche ausnutzt. […] Die Erfinder, die Urheber – Leute wie ich, Mark [Zuckerberg], Kevin Systrom von Instagram, all diese Leute – haben das auf einer ganz bewussten Ebene verstanden. Und wir haben es trotzdem gemacht […] es verändert buchstäblich deine Beziehungen zur Gesellschaft und untereinander. […] Wahrscheinlich hat es negative Auswirkungen auf die Produktivität. Wer weiß, was es mit den Gehirnen unserer Kinder anstellt."

Hier ein Zitat von Chamath Palihapitiya, dem früheren Vizepräsidenten für Nutzer-Wachstum bei Facebook:

"Die von uns entwickelten, schnell reagierenden, dopamingetriebenen Feedbackschleifen zerstören, wie die Gesellschaft funktioniert. […] Kein gesellschaftlicher Diskurs, keine Zusammenarbeit; Desinformation, Unwahrheit. Und das ist nicht nur ein amerikanisches Problem – hier geht es nicht um von Russland geschaltete Anzeigen. Dies ist ein globales Problem. […] Ich fühle mich sehr schuldig. Ich glaube, in den hintersten Winkeln unseres Bewusstseins wussten wir es alle – obwohl wir immer so getan haben, als ob es wahrscheinlich keine negativen, ungewollten Folgen geben würde. Ich glaube, dass wir im Bauch, ganz tief im Unterbewusstsein, schon immer irgendwie wussten, dass etwas Schlimmes passieren könnte. […] Jetzt haben wir, glaube ich, einen wirklich schlimmen Zustand erreicht. Er untergräbt das Fundament des Verhaltens der Menschen zu- und untereinander. Und ich habe keine gute Lösung dafür. Meine persönliche Lösung ist, dass ich diese Tools einfach nicht mehr benutze. Schon seit Jahren nicht mehr."

Besser spät als nie. Zahlreiche Kritiker wie ich haben des Öfteren gewarnt, dass schon seit geraumer Zeit hässliche Dinge passieren. Das jetzt auch von den Leuten zu hören, die uns die Suppe eingebrockt haben, ist auf jeden Fall ein Fortschritt.

Jahrelang musste ich ziemlich schmerzhafte Kritik von meinen Freunden im Silicon Valley ertragen, die mich als Verräter bezeichneten, weil ich das, was wir taten, kritisierte. In letzter Zeit habe ich das umgekehrte Problem. Jetzt sage ich, dass die meisten Leute im Silicon Valley anständig sind und bitte darum, uns nicht als Schurken darzustellen, und jetzt werde ich dafür heftig kritisiert. Ob ich meine Community zu hart oder zu milde beurteile, ist schwer zu sagen.

Zunächst ist jedoch die Frage wichtiger, ob Kritik überhaupt eine Rolle spielen kann. Es ist offensichtlich, dass eine bestimmte verhängnisvolle Technologie uns schadet, aber werden wir – wirst du, ja du – ihr widerstehen und dazu beitragen können, die Welt zu einem besseren Ort zu machen?

Unternehmen wie Facebook, Google und Twitter versuchen inzwischen endlich, einige der massiven Probleme zu korrigieren, die sie verursacht haben, allerdings nur zögerlich. Tun sie das, weil sie unter Druck gesetzt werden oder weil sie davon überzeugt sind? Wahrscheinlich von beidem etwas.

Die Unternehmen ändern ihre Richtlinien, sie stellen Menschen ein, um zu beobachten, was vor sich geht, und Data Scientists, die Algorithmen entwickeln sollen, um die schlimmsten Fehlentwicklungen zu vermeiden. Früher lautete Facebooks Mantra »Move fast and break things«, doch inzwischen haben sie sich bessere Mantras ausgedacht und versuchen, ein paar Bruchstücke der kaputten Welt aufzusammeln und sie wieder zusammenzukleben.

Meiner Meinung nach können diese Konzerne allein jedoch gar nicht genug tun, um die Welt wieder zusammenzuleimen.

Da einige Leute im Silicon Valley Reue zeigen, könntest du jetzt denken, dass du nur abwarten musst, bis sich das Problem von selbst erledigt hat. Aber so läuft das nicht. Wenn du nicht selbst ein Teil der Lösung bist, wird es keine Lösung geben.

In diesem ersten Kapitel will ich auch ein paar Schlüsselkonzepte vorstellen, auf denen die Entwicklung von suchterzeugenden und manipulativen Netzwerkdiensten aufbaut. Bewusstsein ist der erste Schritt zur Freiheit.

Zuckerbrot und Peitsche

Parker sagt, Facebook habe Menschen absichtlich süchtig gemacht, während Palihapitiya die negativen Auswirkungen auf zwischenmenschliche Beziehungen und die Gesellschaft als Ganzes erwähnt. Wie hängen diese beiden Geständnisse zusammen?

Der zentrale Prozess, der es sozialen Netzwerken ermöglicht, Geld zu verdienen, und außerdem der Gesellschaft schadet, ist als Verhaltensmodifikation bekannt. Dieses Verfahren beruht auf methodischen Techniken, die Verhaltensmuster bei Tieren und Menschen verändern. Es kann zur Behandlung einer Sucht eingesetzt werden, aber auch, um eine Sucht zu erzeugen.

Der Gesellschaft entsteht dadurch Schaden, weil eine Sucht den Betroffenen verrückt macht. Der Süchtige verliert nach und nach jeden Bezug zur realen Welt und zu realen Menschen. Wenn viele Menschen nach manipulativen Systemen süchtig sind, wird die Welt finster und verrückt.

Abhängigkeit ist ein neurologischer Prozess, den wir noch nicht vollständig verstehen. Eine wichtige Rolle für unser Glücksempfinden spielt der Neurotransmitter Dopamin, der auch für einen zentralen Bestandteil des Mechanismus zur Verhaltensänderung als Reaktion auf Belohnungen gehalten wird. Darum hat Parker ihn erwähnt. Verhaltensmodifikation – vor allem die moderne Art, bei der Geräte wie Smartphones eingesetzt werden – ist ein statistischer Effekt. Das bedeutet, dass dieser Effekt zwar real ist, aber nicht völlig zuverlässig erzeugt werden kann. Für eine Masse von Menschen kann er mehr oder weniger genau vorhergesagt werden, für ein Individuum jedoch nicht. In gewissem Maße bist du ein Tier im Laborkäfig eines Behavioristen. Der Umstand, dass etwas unscharf und ungenau ist, bedeutet aber nicht, dass es nicht real ist.

Ursprünglich waren kleine Leckerbissen die bei behavioristischen Experimenten am häufigsten verwendeten Belohnungen, eine Praxis, die schon seit Menschengedenken gebräuchlich ist. Jeder Dompteur gibt dem Tier einen Leckerbissen, wenn es ein Kunststück vollbracht hat. Nicht nur Tierbändiger tun das, sondern auch viele Eltern kleiner Kinder.

Einer der ersten Behavioristen, Iwan Pawlow, hat bekanntlich gezeigt, dass er seinen Hunden noch nicht einmal echte Leckerbissen geben musste, um ihr Verhalten zu verändern. Er läutete immer eine Glocke, wenn der Hund gefüttert wurde, und nach einer Weile fing der Hund bereits zu speicheln an, sobald er nur die Glocke hörte.

Es ist zu einem unentbehrlichen Trick im Werkzeugkasten der Verhaltensmodifikation geworden, Symbole zu verwenden statt echter Belohnungen. So erzeugt zum Beispiel ein Smartphone-Spiel wie Candy Crush Abhängigkeit mit Hilfe bunter Bilder von Süßigkeiten – anstatt mit echten Süßigkeiten. Andere suchterzeugende Videospiele verwenden bunte Bilder von Münzen oder anderen Kostbarkeiten.

Von Wohlgefühlen und Belohnungen ausgelöste, suchterzeugende Muster im Gehirn – der von Sean Parker erwähnte »kleine Dopamin-Kick« – sind ein Teil der Ursachen von Social-Media-Abhängigkeit, aber nicht die ganze Geschichte. Social-Media-Plattformen setzen auch Bestrafung und negative Verstärkung ein.

Bei behavioristischen Experimenten im Labor wurden diverse Formen der Bestrafung eingesetzt. Eine Zeit lang waren Elektroschocks ganz beliebt. Doch ebenso wie bei Belohnungen muss eine Strafe nicht real und körperlich spürbar sein – bei manchen Experimenten wurden einem Probanden lediglich Punkte oder Spielmarken verweigert.

Wenn du Social Media nutzt, bekommst du das Äquivalent von Leckerbissen und Elektroschocks verpasst.

[...]

14:31 12.07.2018

Buch der Woche: Weitere Artikel


Im Auge des Sturms

Im Auge des Sturms

Biographie Jaron Lanier ist Internetpionier der ersten Stunde und prägte Begriffe wie Virtual Reality oder Avatar. Die Encyclopaedia Britannica zählt ihn zu den 300 wichtigsten Erfindern der Geschichte
Hinter den Spiegeln

Hinter den Spiegeln

Einblicke Daten sind Macht. Dies hat Online-Konzerne wie Facebook, Amazon und Google zu Großmächten wachsen lassen, welche weitgehend unkontrolliert ihre Agenda verfolgen können. Versuch einer Sammlung
Demokratische Maßnahmen

Demokratische Maßnahmen

Netzschau Rezensionen und Stimmen aus dem Netz: "Lesenswert sind Jaron Laniers Argumente allemal, auch wenn der Leser sich danach nicht entschliesst, alle Drähte zu den sozialen Netzen zu kappen."