Das Digital-Manifest

Künstliche Intelligenz Unter dem Titelthema IT-Revolution thematisiert "Spektrum der Wissenschaft" in DAS DIGITAL-MANIFEST "Digitale Demokratie statt Datendiktatur" in einer Sonderausgabe.
Bei diesem Beitrag handelt es sich um ein Blog aus der Freitag-Community

Gesellschaftliche Institutionen ziehen gerne Wissenschaftler zu Rate, wenn es um Entscheidungen über komplexe Zusammenhänge geht. Deren fundiertes Wissen wird dann aber oft nicht berücksichtigt, weil Sachzwänge und Lobbyisten dazu zwingen, Bedenken über Bord zu werfen.

Die Debatte um Künstliche Intelligenz (KI) ist eine neue Herausforderungen inmitten eines real werdenden Science Fiction: Unter dem Titelthema IT-Revolution thematisiert das Magazin "Spektrum der Wissenschaft" in DAS DIGITAL-MANIFEST "Digitale Demokratie statt Datendiktatur" in einer Sonderausgabe - download hier. Fachleute warnen darin vor einer Programmierung von Mensch und Gesellschaft und von einer Politik des effizienten Durchregierens, ohne Bürger weiter in Entscheidungsprozesse einbeziehen zu müssen (S.9).

Wie bei der Manipulation von Autos im VW-Skandal können Algorithmen auch Meinungen manipulieren (29). "Lernende Maschinen berechnen einen Stimulus, damit wir etwas Bestimmtes tun oder uns in bestimmter Weise verhalten" (36). Das alles ist mittlerweile sogar längt Allgemeinwissen: Smart Phones, Smart Cars, Smart Houses, Smart Watches, Smart Doctors: alle Daten landen im Übergehirn von digitalen Intelligenzen, die uns zum Dank für die Nutzung effektiv überwachen. Die Smart Nation und der Smart Planet sind nahe liegend. Werden Bürger also zu digitalen Sklaven, die nur noch fremde Entscheidungen ausführen (12)?

Das Ganze läßt sich noch steigern, wenn wir nicht nur ausgetrickst, sondern auch bestraft oder belohnt werden (38). Diese "Big Nudging" genannte Strategie mit Bonuspunkteprotokoll („Citizen Score“) und Bravheitsbefund findet betreffs Karriere und Alltag perfektioniert in China ihre Anwendung. In 90 Ländern sei Big Nudging bereits als Gesellschaftskontrolle installiert. Es geht um gezielte Entmündigung des Bürgers durch staatlich geplante Verhaltenssteuerung (16).

Die Systemenwicklungen rund um die KI laufen ultra. Der Philospoph Thomas Metzinger (Autor von "Der Ego-Tunnel") warnt vor einem "Fukushima der Künstlichen Intelligenz", wenn sich eine autonome KI von ihrem lokalen Rechner löst und beginnt, sich frei im Netz zu bewegen wie ein Virus (42). Ein KI-Wettrüsten könnte zudem, wenn Staaten mit kommerziellen Siegeszielen mit unterschiedlichen Systemen aufeinander los gehen, zum knallharten KI-Krieg führen. Da die menschliche Wahrnehmung unmittelbar von der je normierten KI geleitet würde, warnt Metzinger im Fall von eklatanten Fehlleistungen sogar vom Ende der menschlichen Zivisilation (41).

Wie heute bereits bei der menschlich kaum mehr steuerbaren "finanziellen Kriegsführung" an den Börsen, werden wir in kleinen Schritten immer größere Teile unserer Autonomie an die intelligenten System abgeben (41), ohne Sicherheit über deren tatsächliche Güte für die Gesellschaft zu haben. Dies zu illustrieren fragt Metzinger, ob es angesichts der Tatsache, dass ein Prozent der Weltbevölkerung 50 Prozent des Weltvermögens besitzt, eine demokratische gewählte Regierung gibt, die es mit dieser Macht aufnehmen kann (43). - Danach sieht es nicht aus.

Den Menschen mit einem Automaten gleichzusetzen und den Apparaten bessere Kompetenz zuzuschreiben ist ein gern gepflegter Irrtum von Technikfanatikern: Komplexe Systeme wie Mensch und Gesellschaft aber lassen sich nicht lenken wie ein Bus (39) und Superintelligenzen können sich kaum mit der verteilten, kollektiven Intelligenz der Bevölkerung messen (14). - Oder doch!? Jedenfalls werden menschliche Kompetenzen nach und nach an Apparate ausgelagert, wodurch der Mensch in der Regel relativ unbezahlten Urlaub erhält.

Die Autoren des Manifests geben Ratschläge. Pluralität, Dezentralisierung, Transparenz, authentische Mitsprache etc. seien zu verteidigende gesellschaftliche Essenzen. Doch leider klingen die Ratschläge einer Technologiefolgeabschätzung 2.0 zwar extrem wichtig, aber "nur allzu menschlich". Es könnte der Fall sein, dass die Gesellschaftsmaschine schon längst weiter ist, als wir wahrzunehmen vermögen, dass die KI das allzu Menschliche längst in der Zange hat, die Meinungskriege längst erfolgreich führt und bereits Kontrolle über alles hat. Was, wenn Wachrütteln keine effektive Option mehr ist (44)!?

Die Gewinne für Börsenhändler mit den besten Algorithmen können beträchtlich sein (43), die polizeistaatlichen Kontrollen mit KI aufgrund von Terrorismuspanik sind effektiv, und KI-Entwicklungen sind, solange der Kalte Krieg und die andern Kriege nicht überwunden sind, dabei, in unüberschaubare systemische KI-Kriege zu führen. - Somit sollte dem Manifest vielleicht doch mehr Aufmerksamkeit geschenkt werden: Man sollte nicht davon ausgehen, dass eine künstliche Intelligenz in unserem Sinn ethisch gute Werte haben wird, nur weil sie superintelligent ist (42).

Nach Griechenlandkrise, Flüchtlingshallo und jetzt Flüchtlingsbash darf man sich fragen: woher kommt der je so intensiv kollektive Meinungswahn, der den Nachrichten folgt. Sind es wirklich die Medien, die doch, von einigen abgesehen, tapfer versuchen, aufzuklären, zu versöhnen und zu vermitteln? Es bedarf weder Verschwörungstheorien noch dem Argument, sie, TV oder Internet würden doof machen, um zu behaupten, die Medien sind längst nicht mehr der Hauptprozessor der Wertevermittlung. Sitz ein Gnom in all den Kommunikationsmodulen, ein Algorithmus, der gerade übt, unsere Grenzen zum Wahn zu testen?

Auch das Internet ist nicht zwingend der Hauptprozessor der Wertevermittlung. Es leistet nicht automatisch Kommunikation und Völkerverständigung, selbst wenn wir uns das nach wie vor einreden. DAS DIGITALE MANIFEST spricht immer wieder von humaninkompatiblen Meinungsclustern aufgrund von kommunikativen Engstirnigkeitsparametern, wodurch eine Gesellschaft in isolierte Subsysteme zerfällt, die sich gegenseitig nicht mehr verstehen (45): Die daraus folgende Konsensunfähigkeit sei exemplarisch in den USA zwischen Demokraten und Republikanern zu beobachten. Dort sind die emotionalen Lager derart konträr, dass es scheint, man würde mehr nicht im selben Land leben. Es herrscht Krieg, weil Meinungen nicht mehr miteinander zu Kompromissen gebracht werden können (11).

Gerhard Weikum, Direktor des Max-Planck-Instituts hält dagegen: Die Tendenz, dass Bürger unmündiger werden und sich von populistischen Trends manipulieren lassen, gibt es schon länger. Technologie verstärkt und beschleunigt solche Trends, aber man kann den Zeitgeist nicht nur auf Technologie abwälzen (49). Wenn also das Emotionale in den kommunikativen Schnellschüssen zu einer Gesellschaft der Hasskommentatoren führt, ist die Debatte darüber auch unabhängig von den Kommunikationsmedien zu führen. Nicht sie haben Schuld, dass Verstand, Vernunft und das für den Menschen eigentlich so typische Denken immer weniger zum Einsatz kommen. Auch kann den Medien keine Schuld zugeschrieben werden, dass sich der Mensch die irdischen Komplexitäten immer weniger anzueignen und immer weniger auf die Barrikaden zu gehen scheint. Vielleicht ist der Mensch ja einfach nur verpeilt, feige und verwöhnt, also dumm, faul und gefräßig.

Das Manifest hat bislang - wie viele andere der letzten Jahre - keine Massenbewegung hervorgerufen. Der Grund kann denkbar einfach sein: Man daddelt bei Facebook rum, hat Vertrauen in Technik und weder Zeit noch Lust, sich mit Höherem, geschweigedenn "anstrengend Komplexem" zu beschäftigen. Eine derartige Haltung verstärkt aber sowohl den Kontrollverlust über all die technischen Spielzeuge, die uns in der Hand haben, als auch die Machtverhältnisse: Einen wesentlichen Punkt gesellschaftlichen Engagements sieht Weikum in der Regulierung der KI-Nutzung durch die privatwirtschaftliche Verwertung der großen, auf Eigennutz bedachten Internetakteure (51). Es sind aber eben diese Privatkonzerne von Google-Alphabeth bis Facebook, die mit Hochdruck an künstlichen Intelligenzen arbeiten. Weniger (wie behauptet, die Wette gilt!) um das Gemeinwohl zu stärken, sondern ehr, um nachhaltig die eigene Macht zu sichern. Dem auszuweichen, schlägt Weikum ein öffentlich-rechtliches Internet vor (ebd). Das aber klingt angesichts des fortgeschrittenen Stadiums des Science Fiction, in dem wir leben, ein wenig naiv, denn: spät.

Mit oder ohne Medien: Es war für Menschen noch nie so schwer, die Welt zu durchschauen - und zu lenken. Noch vor der Etablierung des Fernsehens gelang Hitler ein beeindruckender Massenwahn. Heute ist zwar alles "zu unserer Sicherheit" überwacht, aber nichts ist vor indirekten und nicht wahrnehmbaren Machteinflüssen geschützt, Hetze ganz neuartig zu steuern. Die Mahner des DIGITALEN MANIFESTS lassen erahnen, dass unsere Entscheidungen und Wünsche längst von Systemen gelenkt werden. Ob man sie intelligent nennt oder nicht: unser Denken, unsere Freiheit, unsere Demokratie sind gehackt (13).

12:01 17.02.2016
Dieser Beitrag gibt die Meinung des Autors wieder, nicht notwendigerweise die der Redaktion des Freitag.
Geschrieben von

Kommentare 15

Avatar
Avatar
Avatar
Avatar
Avatar
Avatar
Avatar