„Hochgradig manipulativ“

Sie hat einen ziemlich ungewöhnlichen Bestseller geschrieben. Yvonne Hofstetters Sie wissen alles handelt von komplexen, unkontrollierbaren Datenmengen, und es geht um intelligente Maschinen. Das Sachbuch arbeitet mit erzählerischen Elementen, über weite Teile begleitet die Leser eine Hauptfigur: der Mathematiker Dr. Florian Mayhoff, der zuerst in der Rüstungs- und danach in der Finanzindustrie tätig ist.

Der Freitag: Frau Hofstetter, in Ihrem Buch geht es um die Macht der Algorithmen. Bei mir sind Empfehlungen von Amazon immer total wirr. Das geht von Unterhosen über Socken zu Comics, Philosophiebüchern und Horrorvideos. Mache ich irgendetwas falsch, bin ich zu kompliziert?

Yvonne Hofstetter: Nein, Sie sind nicht zu kompliziert, wir sind einfach noch nicht ganz so weit. Wir haben noch ein bisschen Zeit, uns auf das einzulassen, was kommt. Die Anzeichen sind ja unübersehbar. Man muss nur Zeitung lesen: Die Handelskette Target hat herausgefunden, dass ein junges Mädchen schwanger ist, und es entsprechend mit Werbung versorgt. Was passiert hier? Wie kommt es, dass eine Handelskette so etwas feststellt, fast bevor es das Mädchen selbst merkt?

Mich hat das an den schönen Spruch erinnert: Dass du paranoid bist, bedeutet nicht, dass sie nicht hinter dir her sind. Sie sind hinter uns her, aber wir sind einfach noch nicht paranoid genug, um das zu erkennen – das ist die Essenz, die ich aus Ihrem Buch ziehe. Wie steht es mit Ihnen?

Ich glaube, dass wir uns auf eine Kontrollgesellschaft zubewegen, die uns in unseren Freiheiten stark beschränken wird. Es wird nur noch den öffentlichen Menschen geben. Der private scheint zu verschwinden. Aber Privatheit ist entscheidend für unsere Entwicklung, für unsere Vielfalt. Wir können Dinge einfach mal ausprobieren, wenn uns keiner dabei zuschaut und keiner zuhört. Und dass das wegfallen soll und sich alle konform verhalten werden, macht mir schon gewaltig Angst.

Unser Begriff von Privatheit ist doch kulturell bedingt. „Privare“ heißt „berauben“ und „befreien“ gleichermaßen, eine hübsche Doppelung der Bedeutung. Das heißt, wer privat ist, beraubt die Allgemeinheit um sich selbst und befreit sich dadurch. Man könnte also provokant sagen: Wir kehren das wieder um. Wir begeben uns wieder in die Allgemeinheit, durch die Aufhebung der Privatheit. Ist Ihnen das zu abgefahren?

Nee, dann kontere ich mit einem genauso abgefahrenen Zitat. Es stammt aus dem Mittelalter und wird Hildegard von Bingen zugeschrieben: „Der Mensch soll nicht alles wissen. Und wenn er alles wissen will, stellt er sich unter die Fahnen des Lügners von Anbeginn.“ Aber klar, der Mensch möchte natürlich alles wissen, alles soll transparent und offen sein, und er möchte eigentlich keine Privatheit. Aber wozu hat das geführt? Die ersten Menschen, die das versucht haben – Adam und Eva –, haben das Paradies verloren.

Denn diese Transparenz, dieses Wissen, diese Information hat ja nichts mit der Wahrheit zu tun. Wir reden eben nicht von Wahrheiten, sondern von Wahrscheinlichkeiten. In der Datenanalyse, in der Prognose, kann man arg danebenliegen. Wenn ich Ihnen sage, dass Sie in 20 Jahren mit 30 Prozent Wahrscheinlichkeit an Krebs erkranken, dann kann ich danebenliegen, aber es kann riesige Auswirkungen auf ihre Zukunft haben. Schicksal bekommt dann eine ganz andere Bedeutung für Sie. Insofern sag ich: Nein, es ist gar nicht gut, dass man alles weiß. Aber ich stimme Ihnen natürlich zu, dass Privatheit eine kulturelle Sache ist. Ebenso wie die Überwachung. Gerade Deutschland hat da eine riesige Historie, und ich rede nicht nur von der DDR.

Und in der Gegenwart? Wir leben ja nicht im Totalitarismus.

Nehmen Sie so etwas scheinbar Harmloses wie den Nachrichtendienst Whatsapp. Bei Whatsapp wird kommuniziert, ob Sie eine Nachricht lesen oder nicht und ob Sie sofort darauf antworten. Das ist ein Druck, den durchaus auch Menschen empfinden, die Whatsapp nutzen. Sie müssen sofort reagieren, weil sie sonst unhöflich sind. Da wird mein Verhalten determiniert.

Oder nehmen Sie die Gesundheitsarmbänder. Dahinter steckt eine mechanistische, lineare Auffassung von Gesundheit. Es herrscht die Idee, ich könnte das, was durch mein zentrales Nervensystem gesteuert wird, irgendwie beeinflussen, indem ich mich besonders bewege oder nicht bewege. Wenn ich ein solches Armband nutze, führt es dazu, dass ich ausführe, was das Band will. Ob es wirklich gut für die Gesundheit ist, sei dahingestellt.

Und Facebook?

Vor einigen Wochen wurde publik, dass Facebook ein Psychoexperiment mit 600.000 Nutzern gemacht hat. Dabei wurden die Messages auf den Timelines der Nutzer so angeordnet, dass die Nutzer mit einem schlechten Gefühl aus Facebook rausgegangen sind. Man hat also herausgefunden, dass sich die Menschen durch die Anordnung von Informationen in ihrer Stimmung beeinflussen lassen. Das ist hochgradig manipulativ. Jetzt denken Sie an die Beeinflussung der öffentlichen Meinung, beispielsweise wenn es um Wahlen geht. Dummerweise merken wir ja nicht, dass wir manipuliert werden. Die Manipulation folgt durch den Einsatz von Algorithmen.

Ich würde mich ja für einen kritischen Menschenhalten, aber mein Problem ist, dass die Bedrohung, die Sie schildern, allumfassend und totalitär scheint. Mein Reflex: Ganz so schlimm wird es schon nicht sein. In den 50er Jahren haben die Leute auch behauptet, dass in der Fernsehwerbung versteckte Wellen sind, die uns manipulieren. Was würden Sie mir antworten, wenn ich sage: Geht es nicht eine Nummer kleiner?

Für den Bürger sind diese Dinge relativ schwer nachvollziehbar, für einen Technologen ist es jedoch ziemlich einsichtig und erschreckend. Nehmen Sie nur die Akquisitionen, die Google getätigt hat. Google hat Nest akquiriert, Google hat Militärroboter akquiriert und ein britisches Start-up, das sich mit lernenden Maschinen, also Optimierung, beschäftigt. Google hat einen Drohnenhersteller und vor einigen Wochen einen Satellitenhersteller akquiriert.

Vielleicht will man dort „Terminator“ nachspielen?

Wir können froh sein, dass Google nicht macht, was es machen könnte. Aber man kann sich nicht drauf verlassen, dass das heutige Management ewig lebt – obwohl sie doch am Transhumanismus forschen.

Wollen die Leute, die bei Google programmieren, wirklich Böses tun? Glauben Sie das wirklich?

Nein. Aber sehen Sie, während ich das Buch geschrieben habe, hat mich Friedrich Dürrenmatts Stück Die Physiker begleitet. Diese Physiker stehen natürlich nicht morgens auf und sagen: Wir wollen die Welt beherrschen. Die wollen einfach nur ihre Arbeit machen, wollen, dass ihre Modelle funktionieren. Für sie ist wertneutral, was sie tun. Aber dann kommen findige Geschäftemacher, und da fängt das Problem an: Wie setze ich diese Technologie ein? Sind das nur Objekte des Wirtschaftens? Zum Beispiel, um Verkehrsflüsse in den Städten oder Produktionsstraßen in der Industrie zu optimieren? Oder setze ich die Technik gegen den Menschen ein?

Das Gespräch führte Jakob Augstein