Sie können die blaue oder die rote Pille haben

Die meisten Menschen gehen davon aus, dass KI erst zu einer Bedrohung wird, wenn sie Bewusstsein erlangt, Gefühle und Triebe entwickelt. Wenn sie sich dann auch noch frei bewegen könnte, würde sie sehr schnell die Menschheit überflügeln und versklaven. Filme wie "Terminator" oder "Matrix" haben diese und ähnliche Vorstellung tief im Bewusstsein verankert. Heute wischen sich diese Menschen den Schweiß von der Stirn und lehnen sich beruhigt zurück, weil das nie oder erst in ferner Zukunft passieren wird. Man lächelt über die Versuche der KI, Texte zu generieren, Bilder zu malen oder Musik zu komponieren.

Harari sieht diese Fähigkeiten des Menschen als Grundlage unserer Kultur und damit als das Bestimmende der menschlichen Existenz. Er stellt nun die Frage:

"Am Anfang war das Wort. Die Sprache ist das Betriebssystem der menschlichen Kultur. Aus der Sprache entstehen Mythos und Gesetz, Götter und Geld, Kunst und Wissenschaft, Freundschaften und Nationen sowie Computercode. Die neue Beherrschung der Sprache durch die KI bedeutet, dass sie nun das Betriebssystem der Zivilisation hacken und manipulieren kann. Durch die Beherrschung der Sprache erlangt die KI den Generalschlüssel zur Zivilisation, von den Banktresoren bis zu den heiligen Gräbern.

Der Mensch hat oft keinen direkten Zugang zur Realität. Wir sind von der Kultur umhüllt und erleben die Realität durch ein kulturelles Prisma. Unsere politischen Ansichten werden durch die Berichte von Journalisten und die Anekdoten von Freunden geprägt. Unsere sexuellen Vorlieben werden durch Kunst und Religion beeinflusst. Dieser kulturelle Kokon wurde bisher von anderen Menschen gewebt. Wie wird es sein, die Realität durch ein Prisma zu erleben, das von nicht-menschlicher Intelligenz geschaffen wurde?

Seit Tausenden von Jahren leben wir Menschen in den Träumen anderer Menschen. Wir haben Götter angebetet, Schönheitsideale verfolgt und unser Leben einer Sache gewidmet, die der Phantasie eines Propheten, Dichters oder Politikers entsprungen ist. Bald werden wir auch in den Halluzinationen nichtmenschlicher Intelligenz leben."

Schon die "sozialen Medien" haben beeindruckende Möglichkeiten der Manipulation von Millionen von Menschen. Sie sehen die Realität nur noch durch Vorhang aus Illusionen, der von der in diesen Netzwerken verwendeten (primitiven) KI, gewoben wird. Damit lässt sich aber schon die gesellschaftliche Polarisierung verstärken, unsere geistige Gesundheit untergraben und die Demokratie aus den Angeln heben. Diesen ersten Kontakt der Menschheit mit KI sieht Harari heute als für die Menschen verloren an.

Der zweite Kontakt führt jedoch zu einem Angriff auf einem viel höheren Niveau. Die Sprache ist unser Betriebssystem. Die jetzt entwickelten Sprachmodelle versetzen die KI in die Lage, unsere gesamte Kultur innerhalb kürzester Zeit zu verdauen.

"Es ist an der Zeit, sich mit der künstlichen Intelligenz zu befassen, bevor unsere Politik, unsere Wirtschaft und unser tägliches Leben von ihr abhängig werden. Demokratie ist eine Konversation, und Konversation beruht auf Sprache. Wenn die Sprache selbst gehackt wird, bricht die Konversation zusammen, und die Demokratie wird unhaltbar. Wenn wir warten, bis das Chaos ausbricht, wird es zu spät sein, um es zu beheben.

Wir haben eine außerirdische Intelligenz herbeigerufen. Wir wissen nicht viel über sie, außer dass sie extrem mächtig ist und uns betörende Geschenke macht, aber auch die Grundlagen unserer Zivilisation angreifen könnte. Wir rufen die Staats- und Regierungschefs der Welt auf, auf diesen Moment zu reagieren, der eine große Herausforderung darstellt. Der erste Schritt besteht darin, Zeit zu gewinnen, um unsere Institutionen aus dem 19. Jahrhundert für eine Welt der künstlichen Intelligenz aufzurüsten und zu lernen, die künstliche Intelligenz zu beherrschen, bevor sie uns beherrscht."

Zitate aus "You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills", übersetzt mit DeepL.