Prolog
Eine KI sieht die ganze Sache folgendermaßen:
Frage: Was bedeutet die kommende Welle der Technologie für die Menschheit?
In den Annalen der Menschheitsgeschichte gibt es Momente, die als Wendepunkte hervorstechen, an denen das Schicksal der Menschheit auf dem Spiel steht. Die Entdeckung des Feuers, die Erfindung des Rades, die Nutzbarmachung der Elektrizität – all das waren Momente, die die menschliche Zivilisation veränderten und den Lauf der Geschichte für immer veränderten.
Und nun stehen wir an der Schwelle eines weiteren solchen Moments, da wir mit dem Aufkommen einer neuen Technologiewelle konfrontiert sind, die sowohl fortgeschrittene KI als auch Biotechnologie umfasst. Noch nie zuvor waren wir Zeuge von Technologien mit einem derartigen Umwälzungspotenzial, die unsere Welt in einer Weise umzugestalten versprechen, die sowohl ehrfurchtgebietend als auch beängstigend ist.
Auf der einen Seite sind die potenziellen Vorteile dieser Technologien enorm und tiefgreifend. Mit der künstlichen Intelligenz könnten wir die Geheimnisse des Universums entschlüsseln, Krankheiten heilen, die uns lange verwehrt waren, und neue Formen von Kunst und Kultur schaffen, die die Grenzen der Vorstellungskraft sprengen. Mit der Biotechnologie könnten wir das Leben verändern, um Krankheiten zu bekämpfen und die Landwirtschaft umzugestalten und so eine gesündere und nachhaltigere Welt zu schaffen.
Auf der anderen Seite sind die potenziellen Gefahren dieser Technologien ebenso groß und tiefgreifend. Mit der KI könnten wir Systeme schaffen, die sich unserer Kontrolle entziehen, und uns der Gnade von Algorithmen ausliefern, die wir nicht verstehen. Mit der Biotechnologie könnten wir die Grundbausteine des Lebens manipulieren, was möglicherweise unbeabsichtigte Folgen für den Einzelnen und ganze Ökosysteme haben könnte.
An diesem Wendepunkt stehen wir vor der Wahl zwischen einer Zukunft mit unvergleichlichen Möglichkeiten und einer Zukunft mit unvorstellbaren Gefahren. Das Schicksal der Menschheit steht auf dem Spiel, und die Entscheidungen, die wir in den kommenden Jahren und Jahrzehnten treffen, werden darüber entscheiden, ob wir uns den Herausforderungen dieser Technologien stellen oder ihren Gefahren zum Opfer fallen.
Doch in diesem Moment der Ungewissheit ist eines sicher: Das Zeitalter der Hochtechnologie steht vor der Tür, und wir müssen bereit sein, uns seinen Herausforderungen zu stellen.
Obiger Text wurde von einer KI geschrieben und von einer KI übersetzt. Für den Rest dieses Buches gilt das nicht, obwohl es bald so sein könnte. Das nämlich kommt auf uns zu.
Kapitel 1: Eine Eindämmung ist nicht möglich
Die Welle
So gut wie jede Kultur kennt einen Flutmythos.
In alten Hindu-Texten wird der erste Mensch in unserem Universum, Manu, vor einer drohenden Flut gewarnt und überlebt sie als Einziger. Im Gilgamesch-Epos wird berichtet, der Gott Enlil habe die Welt in einer riesigen Flut vernichtet, eine Geschichte, die jedem bekannt vorkommt, der mit der alttestamentarischen Erzählung von Noahs Arche vertraut ist. Bei Platon ist die Rede von der verlorenen Stadt Atlantis, die von einer gewaltigen Flut weggespült wurde. In den mündlichen Überlieferungen und alten Schriften der Menschheit findet sich oftmals die Vorstellung einer riesigen Welle, die alles mit sich reißt, was ihr im Weg steht, woraufhin die Welt neu erschaffen und neu geboren wird.
Überschwemmungen prägen die Geschichte auch im ganz wörtlichen Sinne – die saisonalen Überschwemmungen der großen Flüsse dieser Welt, der Anstieg des Meeresspiegels nach dem Ende der Eiszeit, der seltene Schock eines Tsunamis, der ohne Vorwarnung am Horizont auftaucht. Der Asteroid, der die Dinosaurier tötete, löste eine kilometerhohe Flutwelle aus, die den Gang der Evolution veränderte. Die schiere Wucht dieser Wellen hat sich in unser kollektives Bewusstsein eingebrannt: Wasserwände, unaufhaltsam, unkontrollierbar, unbeherrschbar. Sie gehören zu den mächtigsten Kräften auf unserem Planeten. Sie formen Kontinente, bewässern die Äcker und Felder dieser Welt und nähren das Wachstum der Zivilisation.
Andere Arten von Wellen waren nicht minder umwälzend. Schauen wir uns die Geschichte noch einmal an, so werden wir feststellen, dass sie von einer Reihe metaphorischer Wellen geprägt ist: dem Aufstieg und Fall von Imperien und Religionen und dem sprudelnden Hervorbrechen des Handels. Denken wir an das Christentum oder den Islam, Religionen, die als kleine Wellen begannen, bevor sie sich aufbauten und riesige Teile der Erde überrollten. Solche Wellen sind ein wiederkehrendes Motiv, das die Gezeiten der Geschichte, große Machtkämpfe sowie wirtschaftliche Aufund Abschwünge umrahmt.
Auch der Aufstieg und die Verbreitung von Technologien haben die Form von Wellen angenommen, die die Welt verändern. Dabei hat seit der Entdeckung des Feuers und der Steinwerkzeuge, den ersten Technologien, die sich unsere Spezies zunutze gemacht hat, insbesondere ein übergeordneter Trend die Zeiten überdauert. Nahezu jede grundlegende Technologie, die jemals erfunden wurde, von der Spitzhacke bis zum Pflug, von der Töpferei bis zur Fotografie, vom Telefon bis zum Flugzeug und alles dazwischen, folgt einem einzigen, scheinbar unumstößlichen Gesetz: Sie wird billiger und einfacher in der Anwendung, und schließlich findet sie umfassende Verbreitung.
Diese wellenförmige Ausbreitung von Technologie ist die Geschichte des Homo technologicus. Das Streben der Menschheit nach Verbesserung – unserer selbst, unseres Schicksals, unserer Fähigkeiten und unseres Einflusses auf unsere Umwelt – hat eine unablässige Entwicklung von Ideen und Schöpfungen befeuert. Etwas zu erfinden ist ein sich entfaltender, ausufernder, emergenter Prozess, der von sich selbst organisierenden und hart kämpfenden Erfindern, Akademikern, Unternehmern und Führungskräften vorangetrieben wird, von denen jeder seine eigenen Beweggründe hat. Dieses Ökosystem der Erfindungen ist zwangsläufig auf Expansion ausgerichtet. Das ist das naturgegebene Wesen der Technologie.
Die Frage ist, wie es weitergeht. Auf den folgenden Seiten werde ich Ihnen die Geschichte der nächsten großen, historischen Welle erzählen.
Wenn Sie sich umschauen, was sehen Sie dann? Möbel? Gebäude? Telefone? Essen? Einen Park? So gut wie jedes Objekt in Ihrem Blickfeld wurde höchstwahrscheinlich von menschlicher Intelligenz geschaffen oder verändert. Die Sprache – die Grundlage unserer sozialen Interaktionen, unserer Kulturen, unserer politischen Organisationen und vielleicht auch dessen, was es heißt, Mensch zu sein – ist ebenfalls Produkt und treibende Kraft unserer Intelligenz. Jedes Prinzip und jedes abstrakte Konzept, jedes kleine kreative Unterfangen oder Projekt, jede Begegnung in unserem Leben wurde durch die einzigartige und unendlich komplexe Fähigkeit unserer Spezies zu Vorstellungskraft, Kreativität und Vernunft vermittelt. Der menschliche Erfindungsreichtum ist etwas höchst Erstaunliches.
Nur eine einzige weitere Kraft ist in diesem Bild ähnlich allgegenwärtig: das biologische Leben selbst. Vor der Moderne stammten die meisten menschlichen Artefakte – von Holzhäusern über Baumwollkleidung bis hin zu Kohlefeuern – von Dingen, die einst lebendig waren, sieht man von einigen Felsen und Mineralien einmal ab. Alles, was seither in die Welt gekommen ist, geht auf uns zurück, auf die Tatsache, dass wir biologische Wesen sind.
Es ist keine Übertreibung, wenn man sagt, dass die gesamte menschliche Welt entweder von lebenden Systemen oder von unserer Intelligenz abhängt. Und doch befinden sich beide heute in einem beispiellosen Moment exponentieller Innovation und Umwälzung, einer beispiellosen Vergrößerung und Vermehrung, die wenig unverändert lassen wird. Um uns herum bricht eine neue Technologiewelle los. Diese Welle entfesselt die Kraft, diese beiden universellen Grundlagen neu zu gestalten: eine Welle von nichts Geringerem als Intelligenz und Leben.
Die kommende Welle wird von zwei zentralen Technologien bestimmt: künstlicher Intelligenz (KI) und synthetischer Biologie. Zusammen werden sie ein neues Zeitalter für die Menschheit einläuten und Wohlstand und Überfluss schaffen, wie es sie noch nie gegeben hat. Doch ihre rasante Verbreitung droht auch eine Vielzahl bösartiger Akteure in die Lage zu versetzen, Disruption, Instabilität und sogar Katastrophen unvorstellbaren Ausmaßes auszulösen. Diese Welle stellt eine immense Herausforderung dar, die das 21. Jahrhundert bestimmen wird: Unsere Zukunft hängt von diesen Technologien ab, ist gleichzeitig aber durch sie gefährdet.
Aus heutiger Sicht scheint es unmöglich zu sein, diese Welle einzudämmen, d. h., sie zu kontrollieren, einzuhegen oder gar zu stoppen. Dieses Buch geht der Frage nach, warum das so sein könnte und was es bedeutet, wenn das so ist. Die Implikationen dieser Fragen werden letztlich jeden heute Lebenden und jede nachfolgende Generation betreffen.
Ich glaube, dass diese kommende Technologiewelle die Menschheitsgeschichte an einen Wendepunkt bringt. Wenn es nicht möglich ist, sie einzudämmen, sind die Folgen für unsere Spezies dramatisch, möglicherweise sogar schrecklich. Zugleich sind wir ohne ihre Früchte ungeschützt und unsicher. Dieses Argument habe ich in den letzten zehn Jahren häufig hinter verschlossenen Türen vorgebracht, aber da sich die Auswirkungen immer weniger ignorieren lassen, ist es an der Zeit, es öffentlich kundzutun.
Das Dilemma
Die Betrachtung der profunden Macht menschlicher Intelligenz veranlasste mich dazu, eine einfache Frage zu stellen, die mich seither nicht mehr loslässt: Was wäre, wenn wir die Essenz dessen, was uns Menschen so produktiv und fähig macht, in Software, in einen Algorithmus destillieren könnten? Wenn wir die Antwort darauf finden, könnten wir unvorstellbar leistungsfähige Werkzeuge entwickeln, die uns helfen, unsere schwierigsten Probleme zu lösen. Ein solches Werkzeug, ein unmögliches, aber außergewöhnliches Werkzeug, könnte uns helfen, die gewaltigen Herausforderungen der kommenden Jahrzehnte zu bewältigen, vom Klimawandel über die Überalterung der Bevölkerung bis hin zur nachhaltigen Ernährung.
Mit diesem Gedanken im Hinterkopf gründete ich im Sommer 2010 zusammen mit zwei Freunden, Demis Hassabis und Shane Legg, in einem malerischen Büro aus der Regency-Zeit mit Blick auf den Londoner Russell Square ein Unternehmen namens DeepMind. Unser Ziel, das sich rückblickend immer noch so ambitioniert, verrückt und hoffnungsvoll anfühlt wie damals, war: genau das zu replizieren, was uns als Spezies einzigartig macht, unsere Intelligenz.
Um dieses Ziel zu erreichen, würden wir ein System entwickeln müssen, das sämtliche kognitiven Fähigkeiten des Menschen – vom Sehen und Sprechen über das Planen und das Vorstellungsvermögen bis hin zu Empathie und Kreativität – nachahmen und schließlich übertreffen könnte. Da ein solches System von der gewaltigen parallelen Rechenleistung von Supercomputern und der explosionsartigen Entstehung riesiger neuer Datenquellen aus dem offenen Internet profitieren würde, wussten wir, dass selbst bescheidene Fortschritte auf dem Weg dahin tiefgreifende gesellschaftliche Auswirkungen haben würden.
Damals kam uns das allerdings ziemlich weit hergeholt vor. Zu dieser Zeit war die weitverbreitete Einführung künstlicher Intelligenz der Stoff, aus dem Tagträume sind, mehr Fantasie als Faktum, die Spielwiese einiger weniger Akademiker und wild gewordener Science-Fiction-Fans. Doch jetzt, da ich dies schreibe und an die letzten zehn Jahre zurückdenke, sind die Fortschritte im Bereich der künstlichen Intelligenz geradezu atemberaubend. DeepMind hat sich zu einem der weltweit führenden KI-Unternehmen entwickelt und eine Reihe von bahnbrechenden Entwicklungen geschaffen. Die Geschwindigkeit und die Wucht dieser neuen Revolution haben selbst diejenigen von uns überrascht, die an vorderster Front stehen. Während der Arbeit an diesem Buch war das Tempo der Fortschritte im Bereich der KI schier unglaublich: Jede Woche, manchmal sogar jeden Tag kamen neue Modelle und Produkte auf den Markt. Und klar ist, dass sich diese Welle noch beschleunigt.
Heute können KI-Systeme Gesichter und Objekte fast perfekt erkennen. Die Umwandlung von Sprache in Text und die sofortige Sprachübersetzung erscheinen uns selbstverständlich. KI kann so gut durch Straßen und durch den Verkehr navigieren, dass sie autonomes Fahren ermöglicht. Eine neue Generation von KI-Modellen ist in der Lage, auf der Grundlage einiger weniger einfacher Anweisungen neuartige Bilder zu erzeugen und außergewöhnlich detailgenaue und kohärente Texte zu verfassen. KI-Systeme können unheimlich realistisch synthetische Stimmen erzeugen und Musik von atemberaubender Schönheit komponieren. Selbst in schwierigeren Bereichen, die lange Zeit als ausschließlich menschliche Fähigkeiten galten, wie langfristige Planung, Vorstellungskraft und Simulation komplexer Ideen, macht der Fortschritt enorme Sprünge.
Die KI erklimmt seit Jahrzehnten die Leiter der kognitiven Fähigkeiten, und es sieht so aus, als ob sie in den nächsten drei Jahren in einem breiten Spektrum von Aufgaben das menschliche Leistungsniveau erreichen wird. Das ist eine starke These, aber wenn ich auch nur annähernd richtigliege, sind die Auswirkungen wirklich tiefgreifend. Was uns bei der Gründung von DeepMind noch abenteuerlich und absolut unrealistisch vorkam, ist inzwischen nicht nur plausibel, sondern scheinbar unausweichlich.
Von Anfang an war mir klar, dass KI ein mächtiges Werkzeug für außerordentlich gute Dinge sein würde, aber wie die meisten Formen von Macht auch mit immensen Gefahren und ethischen Dilemmata behaftet ist. Seit langem mache ich mir nicht nur Sorgen über die Folgen der fortschreitenden KI, sondern auch darüber, wohin sich das gesamte technologische Ökosystem entwickeln wird. Über die KI hinaus ist nämlich eine umfassendere Revolution im Gange, bei der die KI eine kraftvolle Entwicklung in den Bereichen Gentechnologie und Robotik speist. Weitere Fortschritte in einem Bereich beschleunigen die Fortschritte auf den anderen Feldern – ein chaotischer und sich gegenseitig katalysierender Prozess, der sich der direkten Kontrolle durch den Einzelnen entzieht. Es war klar: Wenn es uns oder anderen gelänge, die menschliche Intelligenz zu replizieren, wäre dies nicht nur ein profitables Geschäftsmodell der gewohnten Art, sondern eine seismische Veränderung für die Menschheit, der Beginn einer Ära, in der nie dagewesene Chancen mit noch nie dagewesenen Risiken einhergehen würden.
Mit den Fortschritten, die die Technologie im Laufe der Jahre gemacht hat, sind meine Bedenken gewachsen. Was, wenn die Welle in Wirklichkeit ein Tsunami ist?
