Künstliche Intelligenz (KI) ist schon lange kein technisches Problem mehr. Als KI Ende der Zehnerjahre auf den Tagesordnungen der G7- und G20-Gipfeltreffen auftauchte, war sich die internationale Staatengemeinschaft schnell einig, dass mit KI eine neue Welt entsteht, in der man technische Möglichkeiten maximieren und Risiken minimieren sollte. 2019, beim G20-Gipfeltreffen in Osaka, konnten sich alle Regierungen sogar auf fünf von der OECD vorgeschlagene Prinzipien für eine globale KI-Politik einigen. Dazu gehörte das Bekenntnis, dass „während des gesamten Lebenszyklus von KI-Systemen Rechtsstaatlichkeit, Menschenrechte sowie demokratische und menschenzentrierte Werte wie Nichtdiskriminierung und Gleichheit, Freiheit, Würde, Autonomie des Einzelnen, Datenschutz, Diversität, Fairness, soziale Gerechtigkeit und international anerkannte Arbeitsrechte“ zu achten seien. Die OECD-Prinzipien wurden seither so etwas wie eine Blaupause für alle politischen KI-Deklarationen. Sie spiegeln sich in der UNESCO-Empfehlung zu KI und Ethik von 2021, im KI-Gesetz der EU von 2024 und in der Konvention des Europarates zu KI und Menschenrechten aus dem Jahr 2025. Schneller als die Politiker aber waren selbstverständlich die Entwickler, die nun vor dem Weltuntergang durch KI warnen, wie zuletzt der Anthropic-Chef Dario Amodei. Er fordert eine Verlangsamung der Entwicklung, was US-Präsident Donald Trump mit dem Verweis, dann ziehe China davon, abgelehnt hat. KI kann unsere Sicherheit unterminieren, zumal, wenn sie in die Hände von Cyberkriminellen gelangt. Cybergangs können – was längst geschieht –  Schwachstellen ausnutzen für Erpressungen und offensive Cyberoperationen. Oder die neue KI kann selbst zum Hacker werden. Waffen, die autonom operieren Noch kritischer wird es, wenn man auf die Entwicklung KI-basierter autonomer Waffensysteme schaut. Seit den Kriegen in der Ukraine, in Gaza und in Iran hat sich die Aufrüstung von herkömmlichen Waffensystemen auf KI-gestützte Drohnen und Roboter verlegt. Das KI-Wettrüsten droht dabei außer Kontrolle zu geraten, wenn Waffen entwickelt werden, die völlig autonom operieren und eigenständig neue Waffensysteme entwickeln. Seit Jahren fordert UN-Generalsekretär António Guterres ein Verbot von tödlichen autonomen Waffensystemen. Er erhielt dabei Unterstützung von Papst Franziskus II., der sich in einer seiner letzten Reden mit einem Appell an die in Apulien versammelten Regierungschefs der G7 wandte. „Gerade in dieser Frage möchte ich darauf bestehen, dass es in einem Drama wie einem bewaffneten Konflikt dringend erforderlich ist, die Entwicklung und den Gebrauch von Geräten wie den sogenannten ‚tödlichen autonomen Waffen‘ zu überdenken, um ihren Einsatz zu verbieten. Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen“, sagte Franziskus II. im Mai 2024. Sein Nachfolger, Papst Leo XIV., machte KI zum Thema seiner Enzyklika „Magnifica humanitas“ und forderte ein Verbot autonomer Waffen. Es sei „nicht zulässig, tödliche Entscheidungen künstlichen Systemen anzuvertrauen: Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte.“ Ein Problem ist, dass in all den politischen Instrumenten der letzten Jahre – von der KI-Regulierung der EU über die UNESCO-Empfehlung bis zur Konvention des Europarats – die militärischen Aspekte ausdrücklich ausgeklammert wurden. Natürlich wirft der Einsatz von KI-Waffen ethische und menschenrechtliche Fragen auf. Eine völkerrechtliche Begrenzung von autonomen Waffen gibt es aber bis heute nicht. Risiken sind längst bekannt Dabei sind die Risiken autonomer Waffensysteme wohlbekannt. Bereits 2013 wies ein Bericht des UN-Menschenrechtsrats auf die Gefahren von „tötenden Robotern“ hin. 2017 begannen Verhandlungen unter dem Dach der UN-Waffenkonvention von 1980, unter der bereits Protokolle zum Verbot von Landminen, Laserwaffen und Streumunition ausgearbeitet wurden. Eine Regierungsexpertengruppe (GGE LAWS) sollte ein ähnliches Protokoll für das Verbot von „Killer-Robotern“ ausarbeiten. Die Verhandlungen kamen aber nicht voran. Und je mehr KI die Entwicklung immer neuer Waffensysteme ermöglichte, desto zäher wurden die Verhandlungen. 2019 einigte sich die Gruppe immerhin auf elf unverbindliche „Leitprinzipien“. Später wurde ein Konsens erreicht, zwischen KI-Waffensystemen zu unterscheiden, die völlig autonom ihre Ziele identifizieren, und jenen, hinter denen ein Mensch sitzt, der die Waffe steuert. Autonome Waffen ohne menschliche Kontrolle sollten verboten, KI-Waffen unter menschlicher Kontrolle an die Bestimmungen der Genfer Konvention zum humanitären Völkerrecht gebunden werden. Aber obwohl mittlerweile eine absolute Mehrheit von Staaten ein rechtsverbindliches Abkommen will, drehen sich die GGE-LAWS-Verhandlungen seit fast zehn Jahren im Kreis. Die Staaten, die KI-Waffensysteme herstellen und einsetzen – China, Russland, USA, Israel, Iran, Türkei – haben kein Interesse daran, völkerrechtliche Verpflichtungen einzugehen. Und da die UN-Waffenkonvention auf der Basis des Konsenses basiert, treten die Verhandlungen auf der Stelle. „Baby Steps“ in Genf Anfang September trafen sich in Genf erneut rund 300 Diplomaten aus über 100 Ländern, um sich über Elemente eines zukünftigen Abkommens zu verständigen. Aber auch diese fünf Tage in Genf waren ernüchternd. Nachdem drei Tage lang am Entwurf des holländischen Vorsitzenden Robert in den Bosch herumgemäkelt wurde, lag am vierten Konferenztag ein zweiter, abgemilderter Entwurf vor, der für die absolute Mehrheit konsensfähig war. Nicht zufrieden mit einigen Formulierungen war jedoch Russland. Und kaum hatte der russische Diplomat Bedenken angemeldet, folgte der US-Botschafter mit seinen Vorbehalten. Und nach ihnen kamen Israel und die Türkei und wiesen darauf hin, dass der Bericht keine neuen Pflichten für Regierungen konstituieren dürfe. Immerhin gab es ein glimpfliches Ende nach einer erneuten Nachtsitzung. In einer dritten, nun sehr weichgespülten Version des Berichts wurden 21 Elemente eines künftigen „Instruments“ verabschiedet, darunter die Empfehlung, den Einsatz autonomer Waffen an die Genfer Konvention zu binden. Der Bericht geht an die Konferenz der Mitgliedstaaten der Waffenkonvention, die im November entscheiden muss, ob sie ein Mandat zur Aufnahme formeller Verhandlungen erteilt. „Baby Steps“ nannte die österreichische Delegationsleiterin den Fortschritt. Aber wohin soll das „Baby“ laufen, wenn das Kinderzimmer brennt? Die Zeiten sind ungünstig für eine Verständigung. Auch der eindringliche Appell des UN-Generalsekretärs Guterres und der Präsidentin des Internationalen Komitees vom Roten Kreuz (IKRK), Mirjana Spoljaric Egger, am Vorabend der Genfer Verhandlungsrunde verhallte ungehört. Wie an vielen Orten dieser Welt macht sich bei den Vereinten Nationen Ratlosigkeit breit. Kann man aus der Geschichte lernen, zum Beispiel aus den Verhandlungen zum atomaren Wettrüsten? Dort stellten sich erst dann Fortschritte ein, als die Erkenntnis reifte, dass keine Seite eine einseitige Überlegenheit herstellen kann und die Gefahr einer gegenseitigen Vernichtung wuchs. Möglicherweise wird es bei den autonomen Waffen erst dann ein Einlenken geben, wenn Chinesen und Amerikaner sich von dem Geist, der da aus der Flasche eines KI-Wettrüstens entweicht, gleichermaßen bedroht fühlen. Ob das beim Ende September anstehenden Gipfeltreffen zwischen den Präsidenten Xi und Trump so weit ist, ist jedoch eher unwahrscheinlich. Und es ist die Frage, was aus der Warnung von Chinas Geheimdienstchef Chen Yixin vor den Risiken der KI für die nationale Sicherheit, die er kurz nach den Wortmeldungen der US-KI-Entwickler absetzte, folgt.