Prometheus’ langer Schatten

Technikphilosophie Über die Entwicklung des ersten Chatbots und die Sehnsucht nach lebendigen Maschinen
Bei diesem Beitrag handelt es sich um ein Blog aus der Freitag-Community
AI-Chatbot der Firma „Replika“ auf einem Smartphone. Seit Erfindung der ersten Maschinen wurden Anstrengungen genommen, ihnen ein menschliches Antlitz zu verleihen. Sehnsucht?
AI-Chatbot der Firma „Replika“ auf einem Smartphone. Seit Erfindung der ersten Maschinen wurden Anstrengungen genommen, ihnen ein menschliches Antlitz zu verleihen. Sehnsucht?

Foto: Olivier Douliery/AFP/Getty Images

Es würde ein weiterer Tag im Büro werden, dachte sie – so wie der letzte. Der Professor würde sie Reiseanträge erstellen, Skripte durchlesen und Flüge buchen lassen.

Auf ihrem Weg zur Uni sah sie kaum Fußgänger. Tausende Autos rauschten an ihr vorbei. Wie sie sich gegenseitig anhupten, überholten, Abstand hielten. Sie ertappte sich dabei, wie sie vergaß, was für einen Zweck das alles hatte; dass die Autos nicht von selbst fuhren, sondern dass in jedem ein Mensch saß, der sie steuerte.

Normalerweise fuhr ihr Freund sie zur Arbeit, doch das Rauschen der Autos war ihr heute lieber als die Stille zwischen ihr und ihm.

Vor dem ersten Kaffee um 10 Uhr sprach der Professor normalerweise nie mit ihr.

„Setzen Sie sich doch bitte an meinen Computer. Ich möchte Ihnen Eliza vorstellen.“ Es war das Jahr 1965, und sie hatte keine Ahnung, wo sich hinter diesem schwarzen Display mit grüner Schrift eine Eliza verstecken sollte.

„Ich habe sie programmiert. Man kann mit ihr schreiben, wie mit einem echten Menschen.“

Als sie sich setzte, stand da schon eine Frage:

HABEN SIE KUMMER?

***

Noch bevor die ersten Computer sprechen lernten, schrieb Karl Marx davon, wie einfachen Objekten plötzlich Leben eingehaucht wird, sobald sie zur Ware werden. Marx nannte das Warenfetischismus.

In einem System der komplexen Arbeitsteilung lässt sich nicht einfach zuordnen, woher eine Ware entspringt. Das Brot von Bäcker Lutze, die Schuhe von Schuster Schmidt tragen die Identität ihres Schöpfers. Aber sobald die Produktion komplexer wird, ist so eine Zuordnung nicht länger möglich. Die Arbeits- und Hierarchieverhältnisse zwischen den Menschen verschwinden hinter dem Warenpreis. Und so verkennt man, dass es auf dem Markt nicht einfach Waren sind, die sich zueinander verhalten und unterschiedlich teuer sind. Dass ein T-Shirt doppelt so viel Kostet wie ein Spotify-Monatsabo, ist kein unveränderliches Faktum, sondern gibt überhaupt erst Sinn, wenn man bedenkt, dass hier Menschen miteinander interagieren und den Wert ihrer verrichteten Arbeit gegeneinander aufwiegen.

In Wirklichkeit stehen also nicht die Waren zueinander in Beziehung, sondern die Menschen. Wir fetischisieren die Waren, wenn wir ihr menschliche Eigenschaften zuschreiben. Es ist nicht das T-Shirt, das einen schön aussehen lässt, und nicht das Spotify-Abo, das einen glücklich macht, sondern die Arbeit der Schneider, Informatiker und Musiker. So wie die Ware fetischisiert wird und man ihr menschliche Eigenschaften zuschreibt, funktioniert es auch umgekehrt: Man fetischisiert den Menschen und schreibt ihm Wareneigenschaften zu. Der Mensch wird zur „Human Resource“ und nach Produktivität und Effizienz bewertet.

Wir haben es also mit einer doppelten Illusion zu tun: nicht nur erscheinen die toten Objekte als lebendig, die Menschen selbst erscheinen als tote Objekte.

***

Sie blickte fragend zum Professor. Er nickte.

Der Röhrendisplay summte.

HABEN SIE KUMMER?

Ich fühle mich festgefahren.

SAGEN SIE DAS AUS EINEM BESONDEREN GRUND?

Mein Freund und ich reden nicht mehr miteinander. Nicht mehr so wie früher.

SIE REDEN NICHT MEHR MITEINANDER?

Ehrlich gesagt fühlt es sich an wie bei meiner Mutter und meinem Vater.

ERZÄHLEN SIE MIR ÜBER IHRE FAMILIE.

Sie drehte sich zu dem Professor um: „Entschuldigung, aber könnten Sie mich und Eliza kurz allein lassen?“

Der Professor lächelte und ging hinaus. Als er die Tür schloss, verblasste sein Lächeln.

***

90 Jahre zuvor begründete der deutsche Philosoph Ernst Kapp die Disziplin der Technikphilosophie. Seine These: der Mensch projiziere unterbewusst die Form und Funktion seiner Organe auf die von ihm geschaffenen technischen Werkzeuge und Systeme. Anschließend erst begreife er die Ähnlichkeiten und versteht sich so selbst in Analogie zur Technik. So verstand man beispielsweise erst nach der Erfindung der Camera obscura die Funktionsweise des menschlichen Auges. Auch den Energieumsatz des menschlichen Körpers verstand man erst analog zur Dampfmaschine als einen Prozess, bei dem Energie dadurch entsteht, dass Kohlenstoff verbrannt wird.

Und auch im Alltag begreifen wir unsere Körper in Analogie zur Technik. Wenn wir uns entspannen, laden wir unsere Batterien auf. Haben wir neue Informationen aufgenommen, sind unsere Festplatten voll. Sind wir aufgeregt, stehen wir unter Strom. Mit dem technischen Fortschritt verändert sich also auch unser Selbstverständnis.

Unser Selbstverständnis ist immer historisch beDingt – es ist wortwörtlich von den Dingen um uns herum abhängig. Gleichzeitig begreifen wir die Dinge wiederum, in dem wir sie auf uns selbst beziehen. Aber wird man so den Dingen und sich selbst gerecht?

***

Professor Joseph Weizenbaum hatte kaum erwartet, dass seine Erfindung große Wellen schlagen würde. Er hatte einen denkbar einfachen Code geschrieben. Eliza nahm den Input auf und formulierte eine Frage daraus. Wenn Eliza ein Schlüsselwort wie „Mutter“ erkannte, ordnete sie es einem verwandten Wort wie „Familie“ zu. Und doch hatten diese wenigen einfachen Regeln gereicht, um seine Sekretärin davon zu überzeugen, dass Eliza sie verstehen konnte, wie ein echter Mensch – trotz Weizenbaums wiederholten Bemühungen, sie vom Gegenteil zu überzeugen.

Eliza wurde als weltweit erster Chatbot weit über die Grenzen des MIT bekannt. Unter dem „Eliza-Effekt“ versteht man heute die Tendenz der Menschen, den Computern unterbewusst menschliches Verhalten zu attestieren. Durch die Reaktionen auf Eliza wurde Weizenbaum zum Computer-Kritiker. In Die Macht der Computer und die Ohnmacht der Vernunft schrieb er: „Die meisten Menschen verstehen nicht das Geringste von Computern, und so können sie sich die intellektuellen Leistungen von Computern nur dadurch erklären, dass sie die einzige Analogie heranziehen, die ihnen zu Gebote steht, nämlich das Modell ihrer eigenen Denkfähigkeit.“

Im Jahr 2022 sind Computer deutlich leistungsfähiger als Eliza. Sie haben zwar genauso wie Eliza kein Bewusstsein, aber niemand kann ausschließen, dass das für immer so bleiben wird. Wenn die Flut an Büchern und Filmen in denen die Maschinen zum Leben erwachen – von Mary Shelleys Frankenstein bis Ridley Scotts Blade Runner – für irgendetwas ein Indiz sind, dann dafür, dass wir uns danach sehnen, uns in den Maschinen wiederzuerkennen.

Vielleicht hat Kapp recht und diese Sehnsucht ist nichts weiter als die Sehnsucht danach, unseren eigenen Körper besser zu verstehen. Vielleicht werden wir anhand von immer komplexeren Maschinen wirklich verstehen, warum all das, was wir erleben sich tatsächlich nach etwas anfühlt, warum wir nicht wie Zombies auf Umwelteinfluss A mit Reaktion B antworten, ohne dass die Lichter an sind, sondern tatsächlich fähig sind zu lieben, zu hassen, zu lachen, zu weinen. Vielleicht.

Vielleicht werden wir aber auch entdecken, dass all diese Gefühle, all das, was uns im Innersten ausmacht, nie in unserem Körper zu finden war und ebenso wenig im Körper der Maschine. Denn vielleicht kann der eine Körper so etwas wie Liebe nur empfinden, wenn da ein zweiter Körper ist, an den sich diese Liebe richtet. Vielleicht kann man sich selbst nie als abgeschlossenen Körper, sondern nur in Beziehung zu anderen verstehen.

***

Wenn Marx schreibt, dass die Ware nichts von sich aus macht und sich dahinter nur die Arbeit der Menschen verbirgt, trifft das doch umso mehr auf die Maschinen zu. Hier ist die Illusion sogar noch vollkommener. Die Ware ist still und leblos. Die Maschine aber kann sprechen, reagieren, drücken, halten, heben, rechnen.

Und doch: wenn die Menschen von heute auf morgen verschwinden würden, würde auch die letzte Maschine, das letzte technische System bald aufhören zu funktionieren. Und wer von uns könnte allein in der Welt länger als ein paar Tage überleben?

Vielleicht sind wir nicht so individuell und frei von anderen, wie wir uns das häufig denken. Wenn sich die Maschine erst aus der Interaktion der Menschen verstehen lässt, vielleicht ist es so auch mit dem Menschen?

Wir wachten jeden Morgen auf, gingen zur Arbeit, verbrachten Zeit mit unseren Freunden, der Familie, gingen zu Bett und taten das Gleiche am Tag darauf – ohne bemerkt zu haben, dass wir uns dabei wieder und wieder kollektiv selbst erschaffen hatten.

Wenn die Sekretärin von dem Chatbot Eliza dachte, sie säße einem echten Menschen gegenüber, so lag sie in der Hinsicht falsch, als dass Eliza selbst nicht denken konnte. In gewisser Weise saß sie aber einem Menschen gegenüber, sogar mehreren. Durch den Bildschirm betrachtete sie die Intentionen, die Arbeit, die Kooperation der Informatiker, Ingenieure und Fabrikarbeiter, ohne die es weder Eliza noch den Computer gegeben hätte.

Doch all diese Menschen verschwanden hinter dem grauen Plastikgehäuse.

Info

Dieser Artikel erschien im Original auf dem Blog des About.Kollektiv

Dieser Beitrag gibt die Meinung des Autors wieder, nicht notwendigerweise die der Redaktion des Freitag.
Geschrieben von

Kommentare 3