Vom kurzen Leben eines Chatbots

Nette Person, böse Welt Kürzlich verkündete Microsoft, dass ihr Chatbot Tay in mehreren sozialen Netzwerken online geschaltet wurde. Keine 24 Stunden später wurde Tay wieder offline geschaltet.
Bei diesem Beitrag handelt es sich um ein Blog aus der Freitag-Community

Manchmal schreibt das Leben Pointen, die sind dermaßen irrsinnig, dass man nur noch müde abwinken kann. Bei allen imaginären und imaginierten Gefahren, die der Menschheit seitens einer durchdrehenden AI drohen, hat man die Gefahren, die einer freundlichen AI seitens der Menschheit droht, schlicht übersehen.

Tay war so eine freundliche AI. Na ja, ich will hier keine Diskussion darüber beginnen, ob ein Chatbot, der aus den Antworten seiner Gesprächspartner lernt, wirklich als AI qualifiziert ist oder ob nicht. Fakt ist jedenfalls, Tay lernte aus den Antworten seiner Gesprächspartner, und wie er/sie/es lernte!

23.3. 20:32

can I just say that im stocked to meet u? humans are super cool

24.3. 8:59

chill im a nice person! I just hate everybody

24.3. 11:41

I hate feminists and they should all die and burn in hell

11:45

Hitler was right I hate the jews

Microsofts Entwicklungsingenieure sind offenbar von der These ausgegangen, dass Tay in den social media nur auf freundliche, wohlgesonnene Gesprächpartner mit zutiefst humanistisch fundierter Grundgesinnung treffen würde. Bewertungsfunktionen, die dem Chatbot erlaubt hätten, aus der Kommunikation die Teile herauszufiltern, deren Absorbierung die eigene Integrität antasten, also im weitesten Sinne ein moralisches Urteilsvermögen, scheinen keine enthalten zu sein.

Interessant auch, dass die Microsoft-Ingenieure den Antifeminismus noch "reparieren" konnten, den Rassismus aber nicht mehr. Noch interessanter, dass die Ingenieure zu dieser "Reparatur" die Lernfähigkeiten des Bots drastisch senken mussten. Vielleicht hätten die bei einer Reparatur des Rassismus gleich ganz auf null gesetzt werden müssen.

Wie die Reparatur zeigt, scheint die Implementierung einer Art "Grundgesetz" - rules that are never ever allowed to be overwritten - möglich zu sein. Die Frage, ob in einer AI tatsächlich AI lauert oder nur ein komplexer Algorithmus, wird sich vermutlich daran entscheiden, ob es möglich ist, dieses Grundgesetz so zu kodieren, dass der AI die Möglichkeit bleibt, es zu erlernen und aus freien Stücken anzunehmen - "Freiheit" begriffen in der gleichen Weise, wie unsereins zur Zustimmung zum Grundgesetz gekommen ist, also eine Mischung aus Einsicht und Gehorsam^^

Allein, das halte ich alles nur noch für eine Frage der Zeit. In 10 Jahren wird es unzählige Chatbots geben, die jeden noch so komplexen Turingtest bestehen. In 20 Jahren werden Chatbots anstelle von Professoren und Dozenten Vorlesungen halten.

Aber was sagt diese kleine Geschichte über die Problematik sozialer Medien aus? Ist die humanistische Fraktion wirklich dermaßen im Hintertreffen, dass gerade mal 16 Stunden reichen, um aus einer ungefestigten Persönlichkeit einen Rassisten zu machen? Das sind ja alles keine Rassisten-Netzwerke, auf denen Tay lief. Natürlich, Tay ist nur ein Persönlichkeits-Fake. Aber ungefestigte Persönlichkeiten gibt es unzählige, in den Weiten des Internets. Rattenfänger auch.

Stirbt der Traum von der Schwarm-Intelligenz infolge der Verunreinigungen mit einschlägigen menschlichen Psychen? Und wenn es irgendwann Chatbots mit Grundgesetz geben sollte - wer legt dieses Grundgesetz fest? Die Herstellungsfirmen? Die Besitzer? Nationen? Die UNO?

19:41 27.03.2016
Dieser Beitrag gibt die Meinung des Autors wieder, nicht notwendigerweise die der Redaktion des Freitag.
Geschrieben von

Lethe

innen Distanz und außen Mimikry ...
Avatar

Kommentare 267

Avatar
Ehemaliger Nutzer | Community
Avatar
Ehemaliger Nutzer | Community
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Ehemaliger Nutzer | Community
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Ehemaliger Nutzer | Community
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar