Der auf künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre »wahrscheinlich sinnvoll«, erklärte der in San Francisco beheimatete Konzern in einem Post  auf seiner Website.

Anthropic begründet die Entwicklungspause mit der Möglichkeit, dass sich KI-Systeme künftig selbst verbessern und weiterentwickeln könnten. Eine KI, die sich selbst optimiere, wäre »eine bahnbrechende Entwicklung in der Technologiegeschichte«. Sie könne enormen Nutzen in Wissenschaft und das Gesundheitswesen bringen.

Doch eine solche Selbstoptimierung berge auch das Risiko, dass der Mensch die Kontrolle über KI-Systeme verliere. Wenn Systeme in der Lage seien, ihre Nachfolger vollständig selbst zu entwerfen, sei es wichtig, die Systeme sichern, überwachen und ihr Verhalten steuern zu können.

»Entwicklung von KI-Systemen verlangsamen«

Man sei bislang noch nicht so weit, dass KI sich selbst optimieren könne. Diese sogenannte rekursive Selbstverbesserung sei auch nicht unausweichlich. »Sie könnte jedoch schneller eintreten als von den meisten Institutionen erwartet.«

Bei der vorgeschlagenen Entwicklungspause müssten laut Anthropic alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.

»Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können«, erklärte Anthropic.

Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern – allen voran in den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, »die für alle überprüfbar wären«.

Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll – mehr dazu hier . Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.

Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur »Massenüberwachung im Inland« oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als »Sicherheitsrisiko in der Lieferkette« ein, wogegen das Unternehmen sich juristisch wehrt.