2;hungen, die ihn davon überzeugt haben, dass digitale Gehirne biologische Gehirne bald ablösen könnten. Aber der in London geborene Psychologe und Informatiker gibt vielleicht nicht den Rat, den die Mächtigen hören wollen.„Die US-Regierung hat unweigerlich eine Menge Bedenken bezüglich der nationalen Sicherheit. Und ich neige dazu, ihnen in diesen Punkten zu widersprechen“, sagte er dem Guardian. „Ich bin mir zum Beispiel sicher, dass das Verteidigungsministerium der Meinung ist, dass die einzigen sicheren Hände für diese Technologien das US-Verteidigungsministerium sind – die einzige Gruppe von Menschen also, die Atomwaffen tatsächlich nutzen.“Google ist so verantwortungsbewusst, wie man es im Kapitalismus erwarten kann„Ich bin Sozialist“, fügte Hinton hinzu. „Ich denke, dass das Privateigentum an den Medien und an den ,Rechenmitteln‘, also Rechnerleistungen und Daten, nicht gut ist. Wenn man das, was Google tut, im Kontext eines kapitalistischen Systems betrachtet, verhält es sich so verantwortungsbewusst, wie man es von ihm erwarten kann. Das heißt aber nicht, dass es versucht, den Nutzen für alle Menschen zu maximieren: Es ist gesetzlich verpflichtet, den Nutzen für seine Aktionäre zu maximieren, und das ist etwas ganz anderes.“Seit Hinton am Montag seine Befürchtungen geäußert hat, dass der Fortschritt der künstlichen Intelligenz innerhalb von 20 Jahren zum Ende der Zivilisation führen könnte, hat er alle zwei Minuten eine neue Gesprächsanfrage erhalten.Aber wenn es darum geht, konkrete Ratschläge zu geben, fehlen ihm die Worte. „Ich bin kein Politiker-Typ“, sagt er. „Ich bin nur jemand, dem plötzlich bewusst geworden ist, dass die Gefahr besteht, dass etwas wirklich Schlimmes passiert. Ich wünschte, ich hätte eine schöne Lösung, etwa: ,Hören Sie einfach auf, Kohlenstoff zu verbrennen, und alles wird gut.‘ Aber so eine einfache Lösung sehe ich nicht.“Im vergangenen Jahr haben die rasanten Fortschritte bei den KI-Modellen Hinton davon überzeugt, die Gefahr ernst zu nehmen, dass die „digitale Intelligenz“ eines Tages die menschliche übertreffen könnte.Sind die digitalen Modelle besser als unser Gehirn?„In den letzten 50 Jahren habe ich versucht, Computermodelle zu entwickeln, die Dinge ähnlich wie das Gehirn lernen können, um besser zu verstehen, wie das Gehirn Dinge lernt. Aber vor Kurzem habe ich beschlossen, dass diese großen Modelle vielleicht sogar viel besser sind als das Gehirn.“„Wir müssen jetzt gründlich darüber nachdenken, ob wir etwas tun können. Der Grund, warum ich nicht so optimistisch bin, ist, dass ich keine Beispiele kenne, in denen intelligentere Dinge von weniger intelligenten Dingen kontrolliert wurden.“„Man muss sich etwas vorstellen, das um den gleichen Grad intelligenter ist als wir, wie wir intelligenter sind als ein Frosch. Es ist schön und gut zu sagen: ,Dann schließt sie einfach nicht an das Internet an‘, aber solange sie mit uns sprechen, können sie uns dazu bringen, Dinge zu tun.“Abgesehen von dem existenziellen Risiko hat Hinton noch andere Bedenken hinsichtlich des raschen Machtzuwachses von KI-Modellen und verweist auf den Einfluss des Cambridge-Analytica-Unterstützers Robert Mercer auf politische Kampagnen auf beiden Seiten des Atlantiks.Möglichkeiten der Manipulation durch autoritäre Regime„Als Bob Mercer und Peter Brown bei IBM an Übersetzungen arbeiteten, wussten sie, wie wichtig es ist, viele Daten zu haben. Ohne Bob Mercer wäre Trump vielleicht gar nicht erst gewählt worden. Und Bob muss verstanden haben, welche Möglichkeiten zur Manipulation Big Data bietet, und ich glaube, das hatte bereits schreckliche Folgen.“Autoritäre Regierungen sind seiner Meinung nach das größte Warnsignal, das darauf hindeutet, dass die Menschheit nicht in der Lage sein wird, die Risiken der KI in den Griff zu bekommen, bevor es zu spät ist.„Dieses Zeug hilft autoritären Regierungen, die Wahrheit zu zerstören oder die Wählerschaft zu manipulieren. Und wie wir mit diesen Drohungen umgehen werden, in einer Situation, in der sich die Amerikaner nicht einmal darauf einigen können, Teenagern keine Sturmgewehre zu geben, ist nicht schwer vorstellbar. In Uvalde [dem Massaker an einer Grundschule in Texas im Jahr 2022, bei dem 21 Menschen starben] gab es 200 Polizisten, die sich nicht trauten, durch eine Tür zu gehen, weil der Typ auf der anderen Seite ein Sturmgewehr hatte und auf Kinder schoss. Und trotzdem können sie nicht beschließen, diese Angriffswaffen zu verbieten. Ein völlig dysfunktionales politisches System wie dieses ist einfach nicht das richtige System, um mit den Bedrohungen durch digitale Intelligenz umzugehen.“