Das neue Modell Mythos von Anthropic schlägt hohe Wellen. Als Reaktion prüft die Trump-Regierung eine Anordnung, die einen staatlichen Prüfprozess vor der Veröffentlichung neuer KI-Modelle schaffen könnte. Parallel dazu meldet das US-Handelsministerium neue Abkommen mit Google DeepMind, Microsoft und xAI, die der US-Regierung Vorabzugang zu Modellen für nationale Sicherheitsprüfungen geben sollen. Hintergrund ist die Sorge, dass KI-Modelle immer besser darin werden, Sicherheitslücken in Computersystemen aufzuspüren und auszunutzen. Anthropic stellt Mythos deshalb auch nicht allgemein zur Verfügung, sondern nur kontrolliert ausgewählten Partnern, die kritische Software-Infrastruktur absichern. Und dem Verteidigungsministerium. In der Cybersicherheitsbranche, aber auch unter Entwicklern, die den viel genutzten quelloffenen Code schreiben, stehen die Zeichen auf Sturm. Vor einem Jahr waren KI-assistierte Schwachstellenmeldungen noch „AI Slop“: wertlose Falschmeldungen, die die Entwickler der Software nur Zeit kosteten. Inzwischen tauchen zunehmend reale und teils schwerwiegende Ergebnisse auf. Das ist auch ersichtlich auf der Plattform HackerOne, über die Firmen Preisgeld für gefundene Schwachstellen ausloben können. Damit werden sie früh auf eigene Schwachstellen aufmerksam und können diese beheben, bevor sie ausgenutzt werden. Genau die Meldungen solcher Schwachstellen erreichten im März 2026 ein Allzeithoch. Viele davon wurden mit KI-Hilfe gefunden. Aber die Behebungsrate hielt nicht Schritt. Es wurden also viele Schwachstellen gemeldet, aber nur ein Bruchteil davon behoben. Der „pwn2own“-Wettbewerb in Berlin, bei dem Angreifer ihre ausgefeiltesten Angriffe zeigen können, musste erstmals aufgrund zu vieler Teilnahmeanfragen Angriffe ablehnen. Autoren kritischer Software wie des Linux-Kernels sehen eine Phase höherer Qualität und höheren Volumens. Denn auf der Verteidigerseite häufen sich die Engpässe: Es fehlt Personal, um Meldungen zu priorisieren, Schwachstellen zu reparieren und die reparierte Version zu verbreiten. Diese Prozesse sind wenig automatisiert und erfordern noch viel menschliches Gespür. Aktuell werden Hunderte verifizierbare Schwachstellen und Tausende plausible Meldungen empfangen – zehnmal mehr als früher. Als Folge verbreitet sich Krisenstimmung, und Rufe nach mehr Regulierung werden laut. Der drohende Zahlungsengpass Die Ursache erschließt sich mittels einer Analogie aus der Finanzwelt: ein Zahlungsengpass durch überraschend fällig werdende Schulden. In der Tech-Welt gibt es den Begriff des „Technical Debt“, des technischen Schuldenstands. Wie Unternehmen, die heute investieren oder konsumieren und fortlaufend dafür zahlen, haben unsere Gesellschaften technische Schulden angehäuft. Es ist sehr teuer, sichere Software zu entwickeln, und ökonomisch wenig sinnvoll. Nicht jedes Auto muss ein Panzerwagen sein. Software-Entwicklungsmodelle waren nie darauf ausgelegt, perfekte Sicherheit herzustellen. Sie reduzieren nur Anzahl und Folgen von Schwachstellen, um Risiken kontrollierbarer zu machen. Software wird zu einem Sicherheitsstandard entwickelt, der die schwersten Katastrophen außer Sicht hält, aber nicht viel mehr. In den meisten Software-Systemen gibt es eine Menge latenter Sicherheitslücken: Fehler, die zwar existieren, aber schwer zu finden sind. Als Gesellschaft haben wir schweigend angenommen, dass diese technischen Schulden graduell abzuarbeiten sind. Denn das Angebot an Experten, die die Angriffsarbeit auf hohem Niveau leisten können, war sehr begrenzt. Es benötigt extreme Konzentration, ungewöhnliche Frustrationstoleranz und die Fähigkeit, komplexe Systeme zu manipulieren. Wie im Leistungssport braucht es eine Mischung aus Talent und Training. Diese Spezialisten sind selten und können sich ihre Arbeitgeber – offensiv wie defensiv – aussuchen. Dieser Mangel sorgte dafür, dass Sicherheitslücken nur stückweise gefunden wurden. Für die Gesellschaft war das Risiko tragbar Im Gleichgewicht der vergangenen Jahre konnten Nachrichtendienste und professionelle Angreifer viele Systeme kompromittieren, allerdings nur mit erheblichem finanziellem Aufwand. Komplexe Hackwerkzeuge, wie sie zum Angriff auf moderne iPhones verwendet werden, kosten Millionen in der Entwicklung. Für die Gesellschaft war dies tragbar, auch wenn wir mit Ransomware-Angriffen auf Krankenhäuser und verbreiteter Cyberspionage durchaus spürbare Zinsen auf diese Verschuldung zahlten. Die Tech-Industrie hat im Rahmen der Digitalisierung Risiken kreiert und an die Gesellschaft weitergegeben. Wir akzeptierten ein bestimmtes Maß latenter Unsicherheit, bekamen im Gegenzug eine Digitalisierung zum Discountpreis. Hätten wir auf beweisbar sicherer Software bestanden, wäre diese Entwicklung exponentiell teurer und langsamer vorangeschritten. Der Mehrwert schneller Digitalisierung überwog, die Risiken wirkten beherrschbar. Der Kompetenzsprung der neuen KI-Modelle erzeugt nun einen Angebotsschock für eine Leistung, die in der Vergangenheit rar und teuer war: das Aufspüren subtiler Sicherheitslücken. Schuldner operieren normalerweise unter der Annahme, dass Schulden nach einem festen Terminplan zurückgezahlt werden können. Überraschende Rückzahlungsforderungen sind nicht vorgesehen. Die neuen KI-Modelle zwingen uns aber jetzt, einen Teil dieser technischen Schulden überraschend zurückzuzahlen. Aus der Flut der Lücken müssen die wichtigen herausgefiltert und geschlossen werden. Danach muss geprüft werden, ob die Software weiterhin wie gewünscht funktioniert. Aber es fehlen die Entwickler – quasi die flüssigen Mittel –, um einer stark wachsenden Zahl gefundener Probleme kurzfristig Herr zu werden. Dies ist eher ein Liquiditätsengpass für die Gesellschaft als ein Solvenzproblem. Wir sind in der Lage, die notwendigen Investitionen zu leisten, aber nicht schmerzfrei, nicht sofort und vor allem nicht ohne Prioritäten zu verschieben. Ärgerlich ist hierbei, dass Fehlerbehebung theoretisch weitgehend von KI zu erledigen wäre. Aber aktuell wird es in der Praxis oft anders gehandhabt. Viele Software-Projekte haben zu wenig in automatisiertes Testen der relevanten Funktionalität investiert. Eine KI, die Computerangriffe baut, kann einfach überprüfen, ob der Angriff erfolgreich war. Zum Beheben von Sicherheitslücken braucht es hingegen für jede Software spezifische, automatisch verifizierbare Erfolgskriterien: automatisierte Tests, die überprüfen, ob die Funktionalität wie vorgesehen arbeitet. Ohne diese kann eine Schwachstellenbehebung zum Beispiel wichtige Funktionalität zerstören. Viele Unternehmen und Open-Source-Projekte haben jedoch keine stringente Testkultur. Sie können nicht automatisch überprüfen, ob das Schließen einer Schwachstelle andernorts im Programm zum Problem wird. In Abwesenheit solcher Funktionstests kann eine KI nur begrenzt entscheiden, wie und wo ein Fehler behoben werden kann. Der Weg zu Software, die weitgehende Automatisierung im Beheben von Sicherheitslücken erlaubt, ist also bekannt, muss aber gegangen werden. Dies ist nicht der erste Angebotsschock aufgrund einer hohen Anzahl plötzlich sichtbar werdender Sicherheitslücken. Die frühen Nullerjahre waren voll neu entdeckter Sicherheitslücken und Computerwürmer. Es war unangenehm. Das Schlimmste blieb aber aus. Der Weg aus dem Engpass Der Unterschied: Heute ist die gesellschaftliche Abhängigkeit von IT-Systemen ungleich größer und die geopolitische Lage brisanter. Ein Liquiditätsengpass kommt immer unpassend und ist schmerzhaft. Aber er muss nicht notwendigerweise eine Katastrophe sein. Der aktuelle Schock kann zu Software-Systemen führen, die mithilfe besserer Tests für automatische Reparatur geeigneter sind und die weniger Altlasten beinhalten. Die Politik ist versucht, die Existenz der KI-Modelle als Problem zu behandeln. Kurzfristige Zugangsbeschränkungen, koordinierte Prozesse zur Behebung von Lücken und Pre-Release-Evaluierungen können sinnvoll sein, um den Schock zu dämpfen. Aber die KI hat die technischen Schulden nicht aufgenommen. Sie macht „nur“ das Ausmaß der Verschuldung für alle sichtbar. Es gilt zu klären, in welcher Geschwindigkeit digitalisierte Gesellschaften in der Lage sind, diese Schulden abzutragen, wie man künftige Schuldenaufnahme besser kontrolliert und wie man wichtigen Open-Source-Projekten hilft. Aber die Lösung bei Überschuldung ist nicht, bessere Buchhaltungssoftware zu regulieren. Sinnvoller ist, unsere Rückzahlungsfähigkeit zu erhöhen. Mithilfe besserer Tests, schnellerer automatisierter Triage, besserer Update-Pipelines und einer Sicherheitskultur, die Reparaturfähigkeit nicht als Nebensache behandelt.