In einem Verfahren um von der künstlichen Intelligenz Grok generierte ​Nacktbilder hat der Entwickler xAI eine Niederlage kassiert. Ein Gericht in Amsterdam befand in einer Eilentscheidung, dass die Plattform X und der dort verfügbare KI-Chatbot keine sexualisierten Bilder von ​Personen ohne deren Einwilligung erstellen und verbreiten dürfen.

Wie die niederländische Zeitung »De Telegraaf«  berichtet, gilt das Verbot für Erstellung und Verbreitung in den Niederlanden sowie für Bilder von Personen, die dort ihren Wohnsitz haben. Bei Verstößen drohen Geldstrafen ⁠in Höhe ⁠von 100.000 Euro pro Tag. Der Richter sagte laut »De Telegraaf«, dass die Betreiber von Grok »zu einem Klima grenzüberschreitenden Onlineverhaltens beitragen«.

Die Anwälte von Grok hätten hingegen betont, Kindesmissbrauch verhindern zu wollen. Gänzlich könnten sie Missbrauch aber nicht ausschließen. Es werde »immer Nutzer geben, die Sicherheitsmaßnahmen umgehen«, werden sie in dem Bericht zitiert.

Ermittlungen und Klagen weltweit

Angestoßen wurde das Verfahren von der gemeinnützigen Organisation Offlimits. Sie setzt sich gegen ‌sexuellen Missbrauch im Internet ein.

In den ​USA sind ‌weitere Klagen gegen xAI anhängig. Unter anderem geht die Stadt Baltimore wegen sogenannter sexueller Deepfakes gegen das Unternehmen vor. Zusätzlich verklagen Minderjährige xAI, weil ‌Grok sexualisierte Bilder von ihnen generiert habe.