Wo Westworld falsch liegt

Serie Ein zentrales Thema in der neuen Science-Fiction-Serie von HBO ist die Frage, was genau Menschsein bedeutet. Doch eine Sache wurde dabei übersehen

Alan Jern

Ein zentrales Thema in der neuen Science-Fiction-Serie Westworld von HBO von ist die Frage danach, was genau Menschsein bedeutet. Die Serie spielt in einem großen Erlebnispark für Erwachsene, der nach dem Vorbild einer amerikanischen Westernstadt gebaut wurde und von intelligenten und lebensechten Robotern bewohnt wird. Über die Jahre wurden die Roboter – auch Wirte genannt – immer weiter entwickelt. Sie sehen Menschen immer ähnlicher und benehmen sich auch so. Deshalb haben sie damit begonnen, von ihrer Programmierung abzuweichen. Sie sind unberechenbar – genauso wie wir Menschen.

Während die Zuschauer dazu eingeladen werden, über die Menschlichkeit in Robotern zu reflektieren, liegt die Ironie von „Westworld“ darin, dass die reichen, menschlichen Gäste des Parks eher unmenschlich wirken. Sie leben ihre wildesten Fantasien aus. Hier kommt es nicht darauf an, wie verdorben sie sind. Sie misshandeln und töten die Wirte, ohne mit der Wimper zu zucken, sie empfinden dabei sogar eine gewisse Freude. Ein Besucher erschießt ohne jeglichen Grund einen Wirt in einer Bar und ruft danach: „Das nenne ich Urlaub!“

Durch den sadistischen Umgang der Gäste mit den Wirten wird ein düsteres Bild der menschlichen Natur gezeichnet. Als Zuschauer wird man gezwungen, sich zu fragen: Was würden wir machen, wenn wir Westworld besuchten? Könnten wir wirklich einen menschlich wirkenden Wirt ins Gesicht schießen, wenn dieser um Gnade fleht? Psychologen haben versucht, herauszufinden, wie die meisten Menschen tatsächlich in Westworld agieren würden.

Das Bewusstsein der Roboter verstehen

Unsere Bereitschaft, jemandem zu schaden, hängt teilweise davon ab, was wir denken, das dieser jemand denkt und fühlt. Im Jahr 2007 haben die Psychologen Heather Gray, Kurt Gray und Daniel Wegner eine Studie darüber ins Leben gerufen, was Menschen über das menschliche, tierische und mechanische Bewusstsein denken. Indem sie die Antworten von über 2000 Teilnehmern eines Onlinefragebogens ausgewertet haben, fanden sie heraus, dass die Teilnehmer die mentale Kapazität auf zwei unabhängige Faktoren stützen: das Fühlen von Schmerz und Freude („Erfahrung“) und die Fähigkeit Pläne und Entscheidungen zu machen („Handlungsfähigkeit“).

Die Teilnehmer wurden auch danach gefragt, wie schlimm es für sie wäre, verschiedenen Charakteren etwas anzutun. Zum größten Teil ordneten sie dies als „sehr schlimm” ein, wenn Charaktere einen hohen Anteil an „Erfahrung“ (die Fähigkeit zu fühlen) hatten. Allerdings hatten die Schätzungen der „Handlungsfähigkeit“ (Fähigkeit zu Planen und Entscheidungen zu treffen) – egal ob „sehr viel” oder „nicht so viel” – weniger Einfluss auf das Gefühl beim Verletzen eines Charakters.

Ein anderes Beispiel beschreibt einen Charakter mit dem Fragebogen Kismet, ein sozialer Roboter der Gefühle durch Gesichtsbewegungen ausdrücken kann. Kismet wurde erfahrungstechnisch einigermaßen hoch eingeschätzt, bei der Handlungsfähigkeit jedoch eher niedrig. Daraus resultierte, dass der durchschnittliche Teilnehmer eher dazu bereit war, ihm etwas anzutun. Das ähnelt der Gleichgültigkeit der Gäste in Westworld, denen es nichts ausmacht, den Roboter-Bewohnern wie dem Wirt etwas anzutun. Aber da gibt es einen Unterschied zwischen Robotern wie Kismet und den Wirten in Westworld. In Westworld sind die Wirte nicht von den Menschen zu unterscheiden. Das gilt für das Aussehen und das Benehmen. Sie werden von menschlichen Schauspielern dargestellt und können sogar bluten.

In der zweiten Folge hat der Charakter William, der den Park zum ersten Mal besucht, folgende Unterhaltung mit einem Wirt:

„Bist du echt?”

– „Na, wenn du das nicht sehen kannst, dann tut es doch auch nichts zur Sache, oder?”

Die Hauptsache, in der du oder ich oder William entscheidet, ob die andere Person einen Verstand hat, liegt darin, dass wir das Aussehen und das Benehmen beobachten. Wenn der Wirt aber menschlich aussieht und sich auch so benimmt, kann es schwierig werden, das Gefühl abzuschütteln, dass er ein Bewusstsein hat und Schmerzen fühlen kann, auch wenn uns erzählt wurde, dass dem nicht so ist.

Eine Studie aus dem Jahr 2012, die von Kurt Gray und Daniel Wegner entwickelt wurde und von den Grusel der lebensechten Roboter untersucht, unterstützt die Idee, dass das Aussehen der Roboter einen großen Anteil daran hat, wie wir die Eigenschaft einschätzen, wie es ist, etwas zu fühlen.

In einer Reihe von Experimenten haben sie herausgefunden, dass Roboter, die eher lebensecht erscheinen, so eingeschätzt wurden, dass sie auch eher Schmerz und Freude zu empfinden in der Lage sind. Das hat die Teilnehmer beunruhigt. In einem Experiment wurde 105 Teilnehmern ein Video über den Roboter KASPAR gezeigt – einmal von vorne, wo man ein menschenähnliches Gesicht sah und von hinten, wo man die Mechanik und Kabel sehen konnte. Wenn KASPAR von vorne angeschaut wurde, bekam er in Sachen „Erfahrung“ höhere Werte zugeschrieben, zugleich empfand man ihn aber als gruselig.

Das suggeriert, dass die meisten Westworld-Gäste nicht einfach einen lebensähnlichen Wirt in die Hand stechen und dann zusehen könnten, wie dieser sich unter dem Schmerzen quält (was genau das ist, was Williams‘ Schwager Logan in der zweiten Episode macht). Stattdessen würden die meisten von uns mit Entsetzen reagieren.

Entmenschlichte Roboter, entmenschlichende Menschen

Aber manche Leute können herzlose Gewalt ausführen, sogar gegen echte Menschen. So etwas ist einfacher, wenn der Täter das Opfer entmenschlicht, indem er es behandelt, als hätte es kein eigenes Bewusstsein. Wenn man die Geschichte betrachtet, wurde so bei vielen Genoziden gehandelt, als wären die Opfer nichts weiter als lästige Tiere wie Ratten oder Kakerlaken.

Das sehen wir bei „Westworld“ auch: die Mitarbeiter des Parks werden dazu angehalten, die Wirte als hirnlos und wertloser als Menschen zu betrachten. In einer Szene zum Beispiel rügt Dr. Ford (gespielt von Anthony Hopkins), Westworlds mysteriöser Erfinder, einen Techniker dafür, dass er einen nackten Wirt bedeckt, während er an ihm arbeitet:

„Warum ist der Wirt bedeckt? Wolltest du verhindern, dass er friert oder sich schämt? Du wolltest seinen Anstand bedecken. Er friert nicht! Er schämt sich nicht! Er fühlt nichts, was wir ihm nicht gesagt haben, das er fühlen soll.”

Er schneidet in der Folge ganz nebenbei das Gesicht des Wirts mit einem Skalpell auf, um seinen Standpunkt zu verdeutlichen: Wirte sind hirnlos – und damit keine Menschen. Denkt man so von ihnen, können die Mitarbeiter jede Misshandlung rational einordnen.

„Westworld“ wirft also einen unrealistischen Blick auf die typische menschliche Natur. Die Serie erinnert gleichzeitig daran, wie sehr wir dazu fähig sind, Schaden anzurichten. Dadurch, dass die Wirte menschlich aussehen und handeln, würde es uns wahrscheinlich schwerer fallen, ihnen etwas anzutun. Gleichzeitig könnte es aber auch sein, dass wir, wenn man uns beibringen würde, die Wirte als weniger denn menschlich anzusehen, uns die Frage stellen müssen, ob man uns auch dazu bringen könnte, andere Menschen für ebenso wertlos zu halten?

Dieser Beitrag erschien zuerst auf netzpiloten.de

Alan Jern forscht im Bereich der Kognition und ist Dozent am Rose-Hulman-Institut für Technologie im US-Bundesstaat Indiana. Sein Spezialgebiet ist die soziale Kognition, insbesondere zur Frage, wie sich Verhaltensweisen ändern, wenn man mit neuen Fakten und Beweisen konfrontiert wird