Ein Häretiker im Tempel der Hightech-Gläubigen

Nach dem 2005 absolvierten "Einstein-Jahr" wurde 2006 als das "Jahr der Informatik" eingeläutet. Doch was der Welt in Form von Computer und Internet zum Wohle gereichen soll, steht auch und vor allem der militärischen Nutzung zur Verfügung. Im Rahmen der beiden Wissenschaftsjahre findet mit Unterstützung des Bundesministeriums für Bildung und Forschung am 29./30. September in Berlin eine Tagung zum Thema "Informatik und Rüstung" statt, die der Pionier der Computerforschung Joseph Weizenbaum eröffnen wird. Mit seinem Buch Die Macht der Computer und die Ohnmacht der Vernunft hat Weizenbaum in den siebziger Jahren gegen die Mystifizierung von Naturwissenschaft und Technik angeschrieben, kürzlich erschien der Interviewband Wo sind sie, die Inseln der Vernunft im Cyberstrom?

"Von den Maschinen fortlaufen und auf den Acker zurückkehren ist unmöglich. Sie geben uns nicht frei und wir geben sie nicht frei. Mit rätselhafter Gewalt sind sie in uns, wir in ihnen."
Helmut Plessner,
Die Utopie in der Maschine, 1924

"Der Mensch ist der Fehler!" Einmal wieder wird eine Unfall-Katastrophe - der Zusammenprall der Magnetschwebebahn mit einem Reinigungsfahrzeug im niedersächsischen Lathen - auf "menschliches Versagen" zurückgeführt, einmal mehr scheint der Mensch der Schwachpunkt innerhalb ausdifferenzierter Expertensysteme zu sein, der eliminiert werden muss.

Brechts Stoßseufzer aus den dreißiger Jahren könnte als Laufband auch über jenen Wissenschaftspionieren stehen, die ein Jahrzehnt später unter dem Stichwort "der Schlüssel zum Code" ein gemeinsames Projekt vorantrieben. Während sich die Cracks der Informationstechnologie darum bemühten, die menschliche Intelligenz nachzubauen, versuchten die Molekularbiologen das "Buch des Lebens" zu entziffern. Der Schlüsselbegriff beider Disziplinen, Code, stammte aus der Militärspionage. Der britische Mathematiker Alan Turing hatte im Zweiten Weltkrieg das deutsche Chiffriersystem "Enigma" entschlüsselt und mit der berühmten "Turing-Maschine" das erste Modell eines Computers entwickelt.

Einer dieser Computer-Pioniere in den USA, Joseph Weizenbaum, wohnt heute wieder in Berlins Mitte. Aus seiner Wohnung im achten Stock fällt der Blick geradewegs auf den Berliner Dom, mit dem die Hohenzollern ihrem weltlichen Reich die sakrale Weihe gaben; eben jene Dynastie, die später auch die aufstrebenden Wissenschaften ganz in den Dienst ihrer militärischen Expansionsbestrebungen stellten.

Wie viele komplexe Technologien, sagt Weizenbaum, ist auch der Computer ein Kind des Krieges. Zwar lag der wissenschaftliche Furor nach dem Zweiten Weltkrieg erst einmal brach, weil niemand an die sinnvolle Weiterentwicklung der Technologie glaubte. Erst mit dem Korea- und dem Kalten Krieg erlebte die Computerforschung einen neuen Aufschwung. Das Pentagon vergab großzügige - meist zivil getarnte - Aufträge, an deren Erledigung am berühmten Massachusetts Institute of Technology (MIT) auch ein junger Mathematiker namens Joseph Weizenbaum beteiligt war.

Begegnet man dem heute 83-Jährigen, kann man ihn sich eher in einem Club junger Computer-Hacker vorstellen als an einem Professorenpult: Leger gekleidet, das graue Haar hinten zu einem Zopf zusammengebunden und nicht besonders "professoral" wirkend, erzählt er eingangs von der Begegnung mit einem taxi driver, mit dem er sich begeistert über die Vorzüge von Navigationssystemen austauschte: Gebündelte Wissenschaft, auf die der Mensch stolz sein kann! Er, der strenge Technologiekritiker? "Verstehen Sie, dass ist das Missverständnis, dass die Leute immer denken, ich schimpfe auf Computer, nein, ich schimpfe auf die Gesellschaft. Die Technik erbt nur die Werte der Gesellschaft, in die sie eingebettet ist."

Eben dieses "Missverständnis" war der Grund, weshalb Weizenbaum seit den siebziger Jahren auf Distanz zur eigenen Zunft ging. Sein berühmtes Sprachanalyseprogramm ELIZA, Mitte der sechziger Jahre entwickelt, um die Möglichkeiten sprachlicher Informationsverarbeitung vorzuführen, simulierte eine Therapiesituation, bei der der Computer unter anderem die Rolle des "Doktors" übernahm. Was Weizenbaum eigentlich als "Parodie" verstanden wissen wollte, verselbstständigte sich. Er stellte bestürzt fest, dass die "Probanden" schnell eine emotionale Beziehung zum Computer herstellten, als ob dieser ihre Probleme wirklich "verstehen" könnte; schlimmer noch, amerikanische Therapeuten sinnierten sogar darüber, ob ELIZA in der Praxis einsetzbar sei.

Bis heute beschäftigt Weizenbaum dieses Phänomen. Neulich, erzählt er, erklärte mir der Leiter von MIT, er habe ein Programm entwickelt, das Geschichten versteht, zum Beispiel Hamlet, man könne den Computer also fragen, ob er Hamlet verstanden habe. Was sich dann aber herausstellte war, dass der Computer nur sagen kann, was in der Geschichte passiert, what happened. Wenn er das einmal "gelernt" hat, braucht er die Geschichte nie mehr zu lesen. "Wir leben in einer Kultur, in der ›eine Geschichte verstehen‹ bedeutet: what happened. Das ist aber ganz falsch." So wie die Menschen bei der Nutzung von ELIZA dem Computer ein "menschliches" Antlitz gaben, so interpretieren sie auch eine Geschichte wie Hamlet immer wieder aufs Neue, das ist ihre spezifisch menschliche Leistung. Was wir also "Information" nennen - what happened - sind nur Zeichen, Signale. "Information werden sie erst durch den Leser, der sie interpretiert."

Und dann hält es Weizenbaum nicht mehr länger auf seinem Stuhl, er spielt eine Fernsehszene nach, die sich nachts in der menschenleeren New Yorker U-Bahn abspielt: "Ein Mann, ein bisschen besoffen vielleicht, geht auf einen Automaten zu. An dem Automat hängt eine Stange, und wenn man 50 Cent einwirft, fängt die Stange an, sich zu bewegen (Weizenbaum rudert illustrierend mit dem Arm). Da erzählt der Mann dem Automaten, seine Frau habe ihn verlassen. Irgendwann hört die Stange auf, der Mann wirft eine neue Münze ein, die Stange (Weizenbaum rudert weiter) bewegt sich aufs neue, und der Mann erzählt weiter ... Vielleicht", beendet Weizenbaum die Geschichte schmunzelnd, "hat das ja wirklich einen therapeutischen Wert".

Es gibt kaum etwas, das der Mann, der zeitlebens mit Zahlen und Maschinen zu tun hatte, nicht in lange Geschichten kleidet. Hierin ist er ganz Abkömmling seiner jüdischen Herkunft und Tradition, an die sichtbar ein Siegelring mit dem Davidstern erinnert. Schon einmal hat Weizenbaum im Herzen Berlins gewohnt, an der Ecke Charlottenstraße/Jägerstraße, wo sich die Kürschnerwerkstatt seines Vaters befand. Ein echter city boy, hat Weizenbaum irgendwo geschrieben, sei er gewesen. Das Verhältnis zum Vater war sehr distanziert, die Mutter dagegen erdrückte die beiden Söhne mit ihrer Liebe. So war Joseph ein eher einsames Kind, und als die Familie, kurz nach seinem 13. Geburtstag am 8. Januar 1936, Berlin verließ, um in die USA zu emigrieren, kam ihm auch noch die Sprache abhanden.

Heute ist Weizenbaum wie viele Juden seiner Generation ein "Mann des Wortes" und sichtlich stolz auf einen Ehrendoktor in letters. Wenn er über die "Schablonen", die die Leute tagtäglich ausspucken und schlucken schimpft oder über Studenten schilt, keine einzige Seite korrekt auf Englisch schreiben zu können, wirkt er schon ein bisschen schulmeisterlich. Vielleicht wäre aus ihm, hätte er in Deutschland bleiben können, ein Ingenieur geworden, erzählt er, und hätte womöglich eine "Baumwollpflückmaschine" erfunden. Schon in den wenigen Jahren, die er das Luisenstädtische Gymnasium habe besuchen können - nach 1933 musste er auf die jüdische Knabenschule wechseln -, offenbarte sich sein Talent für die Mathematik, das er, auch um sein Sprachdefizit zu kompensieren, in den USA weiter entwickelte. Es habe sogar eine kurze Zeit gegeben, erinnert er sich, in der er glaubte, alles mathematisch ausdrücken zu können.

Ergreifend ist die Geschichte, in die er seine Gefühle bei seiner Rückkehr nach Deutschland fasst: "Als Junge bin ich öfters an der Humboldt Uni vorbeigelaufen und hatte den Traum, dass ich da einmal studieren würde. Als ich Mitte der sechziger Jahre für einige Wochen an die TU Berlin eingeladen wurde, um über meine Arbeit am MIT zu berichten, wollte ich den Raum, in dem die Studenten auf mich warteten, durch den Eingang für die Studenten betreten. Das war noch vor 1968, und mir wurde bedeutet, ich solle die Tür für die Professoren benutzen. Ich bin also rein, da saßen 20 oder vielleicht auch 60 Studenten, ich stand vor ihnen und war einfach overwhelmed, überwältigt. Ich musste alle Kraft zusammen nehmen, ich war fast am Weinen und dachte, mein Gott, hier stehe ich in der TU Charlottenburg, und ich bin, das hört sich vielleicht merkwürdig an, so viele Meilen vom MIT entfernt und vom Nordpol und entfernt in der Zeit; wenn ich zurückginge ins Jahr 1935, könnte ich dann hier überhaupt stehen, als Professor, würde ich nicht abgeholt und in wenigen Tagen, Wochen oder Monaten ermordet werden? Und jetzt stehe ich hier, in Deutschland, in Berlin und ich bin nicht als Student angekommen ... Ich war ganz erschüttert."

Vielleicht ist es diese gelebte Erfahrung, die Weizenbaum davon abbrachte zu glauben, alles sei kalkulierbar oder überhaupt sagbar in einer Sprache. "Meine Kollegen an den Spitzenuniversitäten glauben, dass der Mensch eine Maschine ist, und es ist ein Dogma für sie, dass alle Aspekte der Realität berechenbar sind. Sie verteidigen diese Auffassung hartnäckig, obwohl doch offensichtlich ist, dass wir viel mehr wissen, als wir sagen können." Wenn er auf seine ehemaligen Kollegen am MIT, allen voran Marvin Minsky, den Promotor der Künstlichen Intelligenz (KI), und dessen "Unsterblichkeitsprojekt" zu sprechen kommt, kann sich Weizenbaum in Erregung sprechen.

Was die Vertreter der KI nämlich für eine Stärke des Computers halten, seine Eindeutigkeit, ist für Weizenbaum seine Schwäche. Die Eindeutigkeit, sagt er, gehe mit einem Zwang zur Abstraktion einher, die die Realität entwertet und die Mehrdeutigkeit der Welt leugnet.

Nicht einmal die "reine" Mathematik ist eine wertfreie Zone des Denkens. Wäre sie dem von Kurt Gödel, einem engen Freund Einsteins, eröffneten Weg weiter gefolgt, hätte sie womöglich eine andere, eine realitätsnähere Richtung genommen. Mathematische Theoreme, hatte Gödel nämlich nachgewiesen, müssen entweder unvollständig oder widersprüchlich bleiben.

Aber ist die Tatsache, dass menschliches Verhalten und Sprache überhaupt auf die Maschine ausgelagert werden kann, nicht auch ein Indiz dafür, dass dem Menschen etwas "Maschinenhaftes" innewohnt, versuche ich in einer der wenigen Erzählpausen zu erfahren. An Helmuth Plessners Diktum, nach dem sich Mensch und Maschine gegenseitig in rätselhafter Gewalt haben und dieses Verhältnis historisch nicht revidierbar ist, arbeitet sich Weizenbaum ab, will es nach vorne öffnen. Sicher habe der Mensch die Maschine verinnerlicht, und übernehme die Maschine menschliche Aufgaben: "Aber was lehrt uns das? Bedeutet es, hilflose Opfer zu sein, Geiseln eines Zustandes?" Natürlich könne sich der Mensch nicht von der Maschine befreien, so wie sich Jugendliche nicht ihrer Eltern entledigen können. "Die Maschine ist kein Feind. Aber wir sollten unsere Autonomie verteidigen, so wie der Künstler seine Autonomie verteidigt", plädiert er engagiert.

Er sei einmal an der Küste Norwegens entlanggefahren, mit ihren vielen winzigen Dörfern. "Wenn man so eng, mit so wenigen Menschen lebt, weiß jeder alles über jeden und was passiert, wer mit wem Streit hat und dass man sich versöhnen muss." Eben das habe die Technologie aus unserer Welt gemacht, "wir sehen überall Bilder und wir haben eine Welt hergestellt, in der unser Verhalten weltweite Auswirkungen hat, nicht nur auf den Nachbarn aus der Kneipe. In gewissem Sinn ist die Welt implodiert, in Form der globalen Casino-Börse, des Fernsehens oder der Tatsache, dass wir die Mittel haben, die ganze Menschheit auszulöschen".

Was Weizenbaum immer wieder abverlangt, ist die Zivilcourage, die gegen die angeblich technologischen Zwangsläufigkeiten in Stellung gebracht werden kann. Die gefährlichste Illusion, findet er, ist die angebliche Ohnmacht des Einzelnen. Diese Erinnerung an die Verantwortung des Einzelnen - auch und gerade des einzelnen Wissenschaftlers - mag der Stachel im Fleisch seiner Kollegen sein. Deshalb denunzieren sie ihn als "Kommunisten", der überhaupt nichts von Computern verstünde. Und obgleich sich Weizenbaum selbst als "Häretiker" in der "Kathedrale der Wissenschaft" versteht, trifft ihn die Herabsetzung der "Päpste" tief; vielleicht, weil da der Vater nachklingt, der seinen Sohn immer für einen "Trottel" hielt und ihn höchstens als very good taxi driver würdigte.

Joseph Weizenbaum ist ein hoffnungsvoller Pessimist. "Stephan Hawkings", sagt er, "gibt der Welt nur noch 60 Jahre, wenn wir nichts radikal ändern. Ich denke auch, wir sind am Ende, aber ich gebe uns immerhin noch 100 Jahre. Mir wird dann gesagt, ich sei Pessimist, dabei ist Pessimismus ein relativer Begriff und hat mit Wahrscheinlichkeit zu tun, Hoffnung dagegen mit Möglichkeit. Ich bin äußerst pessimistisch, aber ich habe Hoffnung und hoffe, dass wir uns retten können, weil es möglich ist." Vielleicht bedarf es der Umwege, wie sie der Taxifahrer in London kennt, der Schleichwege nimmt, um sein Ziel zu erreichen. Vielleicht wäre schon etwas gewonnen, wenn wieder ein Mensch im Führerhaus eines Zuges sitzt und vor einer unübersehbaren Gefahr rechtzeitig die Bremse bedienen kann.