rsula von der Leyen 2019 ihr Amt antrat, verkündete sie: Binnen 100 Tagen wolle sie ein Gesetz zur Regulierung von KI vorlegen. Das klappte natürlich nicht, allein der Vorschlag dauerte deutlich länger. Denn eines war von vornherein unklar: Was genau soll hier eigentlich reguliert werden, für das es noch keine EU-Gesetze gab? Das Schlagwort KI wird derzeit gleichbedeutend mit wirtschaftlichem Wohlstand, Zukunftsfähigkeit, aber auch Manipulation und Überwachung betrachtet. Hoffnung und Furcht bestimmen daher seit Monaten gleichermaßen die Debatten. Dabei ist KI im Kern erst einmal Software, die aus Datenbanken Schlüsse ableitet und dabei „selbst lernt“. Das kann ganz viele Dinge verbessern – aber eben auch mächtig problematisch sein.Im einfachsten Fall ist der KI-Einsatz so etwas wie Qualitätssicherung: Sensoren prüfen die Eigenschaften eines Produktes, das auf dem Fließband liegt (vielleicht eine Schraube). Dabei ist oft eine kleine Abweichung zulässig, um Zehntelmillimeter. Der Algorithmus prüft jetzt: Ist die Schraube noch innerhalb dieser Norm? Oder, wenn sie abweicht, kann sie für weniger wichtige Anwendungen doch noch eingesetzt werden? Aber es gibt auch Algorithmen, die sehr viel komplexere Szenarien bewältigen sollen.Überprüft Künstliche Intelligenz bald unsere Kreditwürdigkeit?Etwa dann, wenn es darum geht, anhand großer Datenmengen vorauszusagen, ob jemand kreditwürdig ist. Oder ob es sich bei einem Kindergeldempfänger um einen Betrüger handelt. Letzteres wirkt für deutsche Bürger angesichts der Digitalisierung der Amtsstuben wie ein Problem aus der fernen Zukunft. In den Niederlanden aber löste mit der „Toeslagenaffaire“ genauso ein Algorithmus, der unter anderem rassistische Stereotype reproduzierte, den Rücktritt der damaligen Regierung von Mark Rutte 2021 aus. Und das ist bei weitem nicht der einzige Fall, in dem mehr oder weniger intelligente Software massive Probleme verursachte.Das Computervertrauen ist nach wie vor groß – oft zu groß. Denn es verspricht wirtschaftliche Effizienzgewinne: Rechenzeit kostet weniger als gut ausgebildete Menschen, die ohnehin rar sind, und kann mehr in kürzerer Zeit schaffen. Das wäre auch nicht falsch, braucht aber dennoch klare Leitplanken. Genau hier soll die KI-Verordnung der EU ansetzen und nun regeln, welche Sorgfaltspflichten die Nutzer und Hersteller von Algorithmen zu beachten haben. Sie unterscheidet in KI mit hohem und geringem Risiko – und in verbotene Anwendungsfälle. Das aber ist fehleranfällig.Denn ist tatsächlich ein Bauteil, das etwa in einem Haus verbaut wird, wirklich weniger gefährlich als die automatisierte Behördenentscheidung? Der jetzt von den Verantwortlichen gefeierte AI Act ist dabei nur eine Teilantwort – und wahrscheinlich längst nicht die wichtigste. Das wissen auch alle Beteiligten. Deshalb steckten die Verhandlungen nach dem ersten Aufschlag der EU-Kommission lange Zeit fest. Doch nachdem alle Welt in den vergangenen Jahren anfing, über KI zu diskutieren, nachdem ChatGPT und andere Allzweck-Modelle das Licht der Welt erblickten, standen alle Beteiligten unter Druck: Ein Gesetz muss her – denn es muss gezeigt werden, dass man agiert.Der AI Act verpflichtet Hersteller von KI, sich Gedanken über ihre Nutzung zu machenWie ein Beschleuniger wirkte dabei, dass auch unter den KI-Betreibern und -Entwicklern nicht nur Sympathieträger unterwegs sind. Wer möchte schon Elon Musk (Tesla/X/SpaceX), Sam Altman (OpenAI), Mark Zuckerberg (Meta) und Peter Thiel (Palantir) allein die angebliche, immer weiter automatisierte Zukunft der Welt überlassen? Der AI Act der EU ist dabei nicht schlecht. Er verpflichtet Anwender und Hersteller von KI-Systemen dazu, sich Gedanken zur Nutzung zu machen. Das hätten diese allerdings auch sonst tun müssen: Denn die Datenschutzgrundverordnung verbietet seit Jahren vollautomatisierte Entscheidungen auf Basis personenbezogener Daten. Und das Produkthaftungsrecht führt dazu, dass ein Nutzer, der einfach irgendwas mit KI macht und es anschließend verbreitet, auch bislang schon für die Folgen haftbar ist.Das Haftungsrecht, so deutsch es klingen mag, ist aber ein wesentlicher Bestandteil der KI-Problematik: Wer haftet für was, wenn kaum mehr nachvollziehbar ist, warum welche Schraube aussortiert, warum wem welche Kreditkonditionen angeboten, warum eine Wohnung verweigert wurde?Hier sollte eigentlich eine eigene Begleitgesetzgebung Klarheit schaffen – etwa, indem den Nutzern von KI die Beweislast auferlegt wird, dass sie ihre Algorithmen allen technischen und juristischen Regeln entsprechend trainiert haben. Doch das entsprechende Gesetz schaffte es nicht mehr durch den EU-Prozess. Stattdessen wurden bei einer eh anstehenden Überarbeitung des allgemeinen Produkthaftungsrechts ein paar Änderungen vorgenommen, die die Haftung für den Softwareeinsatz insgesamt (und damit auch für KI) regeln. Doch für so eine trockene Materie interessiert sich natürlich kaum jemand – dabei entscheidet sie am Ende, ob und wie KI rechtssicher eingesetzt werden kann.Wie Emmanuel Macron die Olympischen Spiele in Paris absichern willUnd dann wäre da noch das große Loch der KI-Verordnung: Im Bereich der Anwendung für staatliche Überwachung, etwa bei biometrischer Überwachung. Sprich: Im mit Überwachungskameras gepflasterten öffentlichen Raum können Personen anhand von Aussehen, Gangbild oder anderen Merkmalen identifiziert und gegebenenfalls über die Kameras hinweg verfolgt werden. Das ist Privaten mit der KI-Verordnung jetzt immerhin verboten, war allerdings auch vorher schon eine unzulässige Datenverarbeitung. Doch die Mitgliedstaaten wollten unbedingt eine Ausnahme für Sicherheitsbelange.Anlassbezogen ist eine breite, biometriebasierte Remote-Überwachung mithilfe von KI möglich, insbesondere im Nachhinein, um etwa Videoaufnahmen auszuwerten. Und das auf expliziten Wunsch Frankreichs, da die Macron-Regierung mithilfe dieser Technologien auch die Olympischen Sommerspiele in Paris 2024 absichern will. Die nationalen Regierungen dürften dabei über die in der KI-Verordnung hinausgehend Verbote im Sicherheitsbereich erlassen. Aber dass das passiert, scheint trotz entsprechender Aussagen aus FDP und Grünen auch in Deutschland höchst unwahrscheinlich.Was also ist vom AI Act insgesamt zu halten? Er ist kein echtes Bürgerrechtsgesetz, auch wenn es einige Problemtechnologien reguliert oder gar verbietet, etwa Emotionserkennung. Er ist kein Technologiefördergesetz, er regelt nur zum Teil die Voraussetzungen für einen rechtssicheren Einsatz von KI. Es ist ein europäischer Kompromiss, mit dem Europa zwar seinem Anspruch gerecht wird, Regulierungsanführer auf der Welt zu sein. Aber eben ohne die bereits heute damit verbundenen Probleme alle zu adressieren – und mit vielen Hintertürchen für fast die kritischsten Anwendungsfälle, die es gibt. Das „Ende des KI-Wildwest“, wie es etwa der Grünen-Europaabgeordnete Sergey Lagodinsky nennt, ist es daher bei weitem nicht.