„Die Scheu verlieren“

Interview Wie wahrscheinlich ist es, dass Maschinen eines Tages ihre Schöpfer vernichten? Der Cybersecurity-Experte Thomas Rid ergründet eine zutiefst menschliche Furcht
Christine Käppeler | Ausgabe 24/2016 12

der Freitag: Die Google-Tochterfirma DeepMind arbeitet derzeit an einem Abschaltknopf für lernfähige Maschinen, damit diese uns nicht eines Tages – womöglich unfreiwillig – vernichten. Wie reell schätzen Sie diese Gefahr ein, Herr Rid?

Thomas Rid: Diese Angst vor der übermächtigen Maschine ist so alt wie der Computer selbst. In einer Titelgeschichte von 1950 befürchtete das Time Magazine, Mark III, einer der ersten Rechner, könnte der düstere Vorbote eines „Superman“ sein. Diese Furcht ist zutiefst menschlich und unrealistisch zugleich.

Das Problem, dass eine künstliche Kreatur gegen ihren Schöpfer spielen und gewinnen kann, beschäftigte schon den Mathematiker Norbert Wiener, der in den 40er Jahren den Begriff Kybernetik prägte. Zu Wieners Lebzeiten schlug der Computer den Menschen im Damespiel, heute besiegt er ihn im Go.

Norbert Wiener hat immer wieder Goethes Zauberlehrling zitiert. Der Besen war für Wiener ein Bild für die Maschine, der Lehrling für den Menschen, „das Wort“ für die Software. Wiener versuchte, die letztlich religiös unterfütterte Furcht vor unserer eigenen Kreatur kybernetisch zu entzaubern. Er hat aber genau das Gegenteil erreicht.

Sie bezeichnen die Kybernetik als große unterschätzte Ideologie des 20. Jahrhunderts. Worauf gründet sie?

Die Kybernetik hat drei Kernelemente: Das erste ist die Rückkopplung, denken Sie an ein Heizungsthermostat, das sich selbst steuert. Das zweite ist die Lernfähigkeit der Maschine durch Umweltinteraktion. Und das dritte ist die Verschmelzung von Mensch und Maschine, die sich im Zweiten Weltkrieg in der Luftabwehr manifestiert hat. Biologen, Physiker, Ingenieure, Anthropologen, Politiker, Militärplaner, Science-Fiction-Autoren, sogar Hippies und Scharlatane waren von der Idee fasziniert, dass Maschinen etwas selbstständig, zweckgerichtet tun können. So wie wir heute von künstlicher Intelligenz fasziniert sind.

Zur Person

Thomas Rid, 41, wuchs im württembergischen Aach auf. Seit 2011 lehrt er am Department of War Studies am King’s College in London. Er ist unter anderem Autor der Bücher Cyber War Will Not Take Place (Hurst 2013) und Maschinendämmerung (Propyläen 2016)

Foto: Annette Rid

Sie schreiben, die Soziologin Margaret Mead sei auf ihrem ersten kybernetischen Kongress so aufgeregt gewesen, dass sie erst hinterher feststellte, dass ihr ein Zahn abgebrochen war.

Die sogenannten Macy-Konferenzen fanden in den 50ern in Manhattan in einem schicken Hotel statt, es gab Cocktails umsonst. Die Leute fanden das super, von dort wurde die kybernetische Idee in die ganze Welt verbreitet. Der Psychiater William Ross Ashby stellte dort 1952 seinen Homöostaten vor, eine Art Protohirn, das aus vier Bombensteuerungsvorrichtungen der Royal Air Force bestand und 50 Pfund kostete.

Auch Hannah Arendt besuchte 1964 eine kybernetische Konferenz und befasste sich damit, dass Maschinen nun geistige Aktivitäten ausüben konnten. „Was, müssen wir uns fragen, ist die geistige Tätigkeit als solche?“, schrieb sie hinterher.

Die Kybernetik hatte damals einen hohen intellektuellen Anspruch. Die künstliche Intelligenz ist heute hingegen ein eher nerdiges Thema. Wir haben diese Tiefe der Debatte einfach nicht mehr. Damals wie heute beherrschen extreme Thesen die Diskussion, die jedoch oft erst im Rückblick als falsche Übertreibungen erkennbar werden.

Auffallend ist in Ihrem Buch, wie viele Frauen die Debatte damals prägten, etwa die Mathematikerin Alice Mary Hilton.

Hilton war überzeugt, dass eine Revolution stattfand. Keine zweite industrielle Revolution, sie hielt die Sache für größer. Der einzige Vergleich, den sie angemessen fand, war die Agricultural Revolution – der Beginn des Neolithikums, als der Mensch anfing, Ackerbau zu betreiben. Sie hat deshalb das Wort Cyberculture erfunden. Mit Subkultur hatte der Begriff zuerst nichts zu tun.

Sie machen auch deutlich, wie oft die Prognosen ins Kraut schossen. Mein Favorit ist der Harvard-Dozent Edward Moore, der sich 1956 eine Maschine vorstellte, die am Strand steht und Kopien ihrer selbst baut.

Moores Inspiration waren Nutzpflanzen, die aus der Umwelt Stoffe extrahieren und zusammensetzen, etwa Holz. Warum keine mechanische Strandpflanze bauen? Das war wohlgemerkt keine Science-Fiction-Geschichte, sondern ein Vorschlag in einem wissenschaftlichen Buch. Ähnlich wie bei der künstlichen Intelligenz heute ist das Grundmuster, die Maschine vom Menschen her zu denken. Oder den Menschen von der Maschine her, dann wären wir beim Cyborg.

Die Verschmelzung von Mensch und Maschine in einem Körper schreitet außer in der Medizin kaum voran. Macht uns die Idee doch zu viel Angst?

Die meisten Menschen kaufen sich alle zwei Jahre ein neues Mobiltelefon. Wieso wollte ich mir denn etwas einpflanzen lassen, das ich nach zwei Jahren nicht erneuern kann?

Warum hat sich Google Glass eigentlich nicht durchgesetzt?

Das Muster von Prototypen, die sehr schnell wieder verschwinden, zieht sich durch die gesamte Geschichte der Kybernetik. Was ich beobachte, ist, dass wir heute in beide Richtungen in Extreme driften, einerseits in die Utopie, andererseits in die Dystopie. Das Interessante ist, dass sich Angst und Hoffnung nicht aus der Technik selbst speisen.

Was meinen Sie damit?

Das Gegenteil der Fall: Die großen Ideen kommen, wenn die Technik erst nur als Knospe vorhanden ist. Nehmen Sie konkret die Virtual Reality im Jahr 1989. Damals war der Computer langsam, das Modem quietschte, er ist dauernd abgestürzt, die Bildschirme und die Auflösung waren schlecht. Gerade in einem solchen Frühstadium sind die Vorhersagen am wagemutigsten.

Alles schien möglich, sobald nur die Rechner besser wären?

An diesem Punkt hat die Technik-Subkultur riesige Hoffnungen entwickelt, vom perfekten Raum der Freiheit, in dem Identität mit einem Mausklick neu erfunden werden kann. Eine Idee klingt plausibler, bevor man stundenlang vor irgendwelchen Fortschrittsbalken sitzt.

Auch die Idee vom Internet als Raum der Freiheit hat sich etwas abgenutzt.

In den 90ern gab es die Grundhaltung, dass man eine Maschine nur richtig programmieren müsse, dann würde sie automatisch politisch nach links-libertär driften. Im US-Kontext der Gegenkultur ist die Idee des tools wichtig, des Intruments. Eher im Sinn eines Hammers als eines Mikroskops. Es geht um Subsistenz, darum, etwas mit der Hand zu machen, autark zu sein – um die ganze Frontier-Ideologie. Es ist schon bemerkenswert, dass Berkeley und Texas, wenn es um Verschlüsselung geht, mit einem Mal voll auf einer Linie liegen.

Wie meinen Sie das?

Edward Snowden hat sinngemäß gesagt, er bringe der Kryptografie mehr Vertrauen entgegen als der US-Verfassung. Gewissermaßen als selbstkorrigierende Funktion – da haben Sie auch wieder die Idee der Rückkopplungsschleife. In der Kryptoanarchie verschmelzen die beiden ersten Zusatzartikel der US-amerikanischen Verfassung: das Recht auf freie Meinungsäußerung und das Recht, Waffen zu tragen. „Crypto equals guns“ und „code equals speech“, sagte Timothy May, einer der Urheber des Kryptoanarchistischen Manifests von 1992. Die volle Energie der Westküstenkultur bündelt sich da hinter der Technik. Das ist die Triebfeder, die die Entwicklung in den USA nach vorn treibt, bis heute.

Hat sich Ihr Verhältnis zu Maschinen durch die Arbeit an Ihrem Buch geändert?

Ich habe zum Beispiel Daten über einen russischen Datenspionagefall von 1996 bekommen und in dem Zuge digitale Archäologie betrieben. Ich lerne ein bisschen die Programmiersprache Python und mache Heimübungen mit dem Raspberry Pi, einem kleinen Linuxcomputer, mit dem man lustige Dinge treiben kann. Und ich gehe zu IT-Lehrgängen. Ich verliere ein bisschen die Scheu vor der Maschine, weil ich anfange, sie selber zu kontrollieren.

06:00 20.06.2016

Kommentare 12