Bislang nicht identifizierte Täter haben versucht, mithilfe künstlicher Intelligenz (KI) eine neuartige IT-Sicherheitslücke auszunutzen. Das teilte Googles Threat Intelligence Group (GTIG) am Montag mit. Die IT-Sicherheitsexperten des Konzerns konnten demnach den Angriff auf das ungenannte Unternehmen, welches die Hacker attackieren wollten, noch stoppen. Laut Google ist es das erste Mal, dass eine kriminelle Gruppe KI verwendet, um sowohl eine bis dato nicht bekannte Sicherheitslücke zu finden, als auch diese auszunutzen.

John Hultquist, der Chef der auf die Analyse von Cyberbedrohungen spezialisierten GTIG, sagte zu dem eigenen Fund: »Das Zeitalter der KI-getriebenen Schwachstellen und deren Ausnutzung hat begonnen.« Kriminelle Hacker würden im Vergleich zu staatlich organisierten Gruppen, meist langsam und im Verborgenen arbeiten. Deshalb würden sie von der »enormen Geschwindigkeit« profitieren, mit der KI Sicherheitslücken finden und ausnutzen kann. In einem Interview sagte der Google-Manager, KI sei ein »riesiger Vorteil« für kriminelle Akteure, weil sie ihnen ermögliche, viel schneller als bisher zu agieren. Das mache die Verteidigung gegen Cyberattacken erneut zu einem Wettlauf.

In einem Blogpost zu dem Vorgang  hat Google allerdings nur wenige Informationen über die Angreifer und deren Ziel preisgegeben. Man haben eine bekannte cyberkriminelle Gruppierung beobachtet, die auf Basis einer von ihnen mit KI-Unterstützung entdeckten Sicherheitslücke eine groß angelegte Operation geplant habe, hieß es lediglich von Google. Die Sicherheitslücke hätte es den Unbekannten ermöglicht, die Zwei-Faktor-Authentifizierung eines populären Online-Systemverwaltungstools zu umgehen. Um welches Tool es sich dabei handelt, gab Google nicht preis.

Das Unternehmen bezeichnete die von den Tätern entdeckte Schwachstelle als Zero-Day-Exploit. So werden bislang unbekannte Sicherheitslücken bezeichnet, gegen die es noch keine Schutzmaßnahmen gibt und die deshalb als besonders gefährlich gelten. Der Begriff »Zero-Day« bezieht sich darauf, dass Programmierer null Tage Zeit hatten, um einen Schutz zu entwickeln. Man habe sowohl das betroffene Unternehmen als auch die Strafverfolgungsbehörden über den Vorfall informiert, hieß es von Google. So sei ein geplanter Großangriff wohl verhindert worden.

Das Unternehmen erläutert nicht, welches KI-Modell die Täter konkret verwendet haben. Stattdessen wurde nur verlautbart, dass es höchstwahrscheinlich weder Googles »Gemini« noch Anthropics »Claude Mythos« gewesen sei. Google machte ebenfalls keine Angaben dazu, welche Gruppe es des geplanten Angriffs verdächtigte. Es gebe keine Hinweise darauf, dass diese mit einer feindlichen Regierung in Verbindung stehe, wohl aber hätten Gruppen, die mit China und Nordkorea in Verbindung gebracht werden, bereits ähnliche Techniken erprobt.

IT-Experten kritisieren, dass sich nur schwer unabhängig einschätzen lässt, wie groß das Risiko ist, weil KI-Konzerne in solchen Fällen regelmäßig nur wenige Details veröffentlichen. Entsprechende Berichte lenken die Aufmerksamkeit nicht nur auf ein reales Problem, sondern führen gleichzeitig dazu, dass Google dafür werben kann, bei der KI-Entwicklung vorne mit dabei zu sein.

KI-Beschleuniger für Cyberattacken

In den vergangenen Monaten häuften sich Berichte darüber, dass KI-Systeme bis dato unbekannte Software-Schwachstellen gefunden haben. Der KI-Konzern Anthropic berichtete im April, dass sein Modell Mythos eine alte Sicherheitslücke in einem viel genutzten Betriebssystem entdeckt habe. Das Unternehmen entschied, das Modell nur ausgewählten Unternehmen zur Verfügung zu stellen und nicht zu veröffentlichen. Das Weiße Haus unter Präsident Donald Trump hat den Gedanken aufgeworfen, besonders leistungsstarke KI-Modelle vor deren Veröffentlichung überprüfen zu wollen. (Lesen Sie hier mehr über den Fall.)