Das EU-Parlament will Frauen und Kinder besser vor künstlich erzeugten, sexualisierten Bildern im Netz schützen. Die Abgeordneten stimmten für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot. Konkret sollen KI-Systeme verboten werden, die sexuelle Darstellungen realer Personen künstlich erzeugen, außer die Person hat zugestimmt. Laut dem Gesetzesentwurf bezieht es sich auf Anwendungen, die mit künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" zeigen. Solche Bilder und Videos "schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre", heißt es darin zur Begründung. Verhandlungen mit EU-Rat Jegliches KI-System, das Material über Kindesmissbrauch erstellt, wird komplett verboten. Betreiber, die wirksame Sicherheitsmaßnahmen gegen den Missbrauch nachweisen können , sollen ausgenommen werden. Das Parlament muss sich noch mit dem Rat der EU auf die endgültige Ausgestaltung einigen. Die Mitgliedstaaten, die durch den Rat in die EU-Gesetzgebung eingebunden sind, sprachen sich grundsätzlich auch für ein Verbot aus. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist. Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz , das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen sollen verschoben werden. EU-Kommission stellt mangelnden Jugendschutz bei Porno-Anbietern fest Die EU-Kommission stellte derweil bei vier großen Porno-Seiten offiziell Mängel beim Jugendschutz fest. Pornhub, Stripchat, XNXX und XVideos nähmen in Kauf, dass durch eine lasche Altersüberprüfung auch Minderjährige ihre Inhalte sehen können, teilte die Kommission mit. Den Unternehmen drohen Bußgelder. Bislang überprüft keines der vier Unternehmen, ob die Nutzerinnen und Nutzer tatsächlich älter als 18 sind. Wer die Websites aufruft, muss sein Alter mit einem Klick lediglich selbst bestätigen. Außerdem wirft die Kommission den Betreibern vor, die Risiken für Kinder und Jugendliche nicht, wie im EU-Gesetz für digitale Dienste (Digital Services Act, DSA) vorgeschrieben, berücksichtigt zu haben. "In der EU tragen Online-Plattformen eine Verantwortung", sagte EU-Digitalkommissarin Henna Virkkunen. Sie müssten "datenschutzfreundliche und wirksame Maßnahmen ergreifen, um Minderjährige von ihren Diensten fernzuhalten", forderte sie. Pornhub und Stripchat haben ihren Sitz in Zypern, die Anbieter hinter XNXX und XVideos in Tschechien. Die Unternehmen können nun auf die Vorwürfe der EU antworten. Bleibt die Kommission danach bei ihrer Einschätzung, kann sie Bußgelder verhängen. Die Kommission hat bereits den Prototyp einer App entwickeln lassen, die das Alter mithilfe eines digitalen Ausweises überprüfen und automatisch alle verbotenen Webseiten sperren soll. Die App wird in diesem Jahr in fünf EU-Ländern getestet, Deutschland ist nicht dabei.