Die EU will gegen Apps vorgehen, mit denen sich Deepfakes und sexualisierte Bilder im Netz erstellen lassen. Das Europaparlament stimmte am Donnerstag in Brüssel für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer derartige Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll greifen, sobald die Änderung in einigen Monaten endgültig beschlossen ist. Nach dem Parlament muss sich der EU-Rat auf die endgültige Ausgestaltung des Verbots verständigen.
Die geplante Regelung bezieht sich auf Anwendungen, die mithilfe künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie »sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung« zeigen. Solche Bilder und Videos »schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre«, heißt es im Gesetzentwurf zur Begründung. Ein ausdrückliches Verbot sei »dringend geboten«, argumentieren die Abgeordneten. (Lesen Sie hier mehr über die Apps, die oft als sogenannte Auszieh-Apps bezeichnet werden.)
Die EU reagiert damit auch auf Vorfälle Anfang des Jahres. Damals erstellten Nutzer mithilfe des Chatbots Grok von Elon Musk laut Erhebungen Millionen sexualisierte KI-Bilder von Frauen und Kindern und verbreiteten diese online auf X. Die EU-Kommission leitete Ermittlungen gegen Grok ein, einige Staaten sperrten den Chatbot sogar. Kritik an sogenannten Auszieh-Apps üben Experten schon lange, die Kontroverse um Grok machte das Thema aber einer breiteren Öffentlichkeit bekannt.
Anderer Ansatz als aktuelle deutsche Pläne
Bei dem Vorgehen in Brüssel handelt es sich um eine andere regulatorische Initiative als bei dem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze für Deutschland vorstellen will. Die EU-Pläne betreffen eine Regulierung von Software und Technologie. Die Bundesregierung will Straftatbestände ergänzen, die unter anderem Nutzer treffen könnten, die Deepfake-Technologie auf bestimmte, verbotene Weise benutzen.
Nachdem der SPIEGEL über Vorwürfe der Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen berichtet hatte, hatte Hubig angekündigt, ihren Gesetzentwurf früher als zuvor geplant vorzulegen.
Fernandes beschuldigt Ulmen unter anderem, auf sozialen Medien täuschend echt aussehende Fakeprofile von ihr erstellt und darüber »Hunderte von Männern« kontaktiert zu haben. Ulmen soll sich als Fernandes ausgegeben und mit einigen Männern sexuelle Gespräche geführt sowie erotische Bilder und Videos verschickt haben. Das Material sollte offenbar den Eindruck erwecken, als handele es sich um authentische Aufnahmen seiner damaligen Frau.
Der SPIEGEL hatte Christian Ulmen einen umfangreichen Fragenkatalog geschickt, den er selbst unbeantwortet ließ. Ulmens Anwälte boten dem SPIEGEL ein Hintergrundgespräch an, das vor der Veröffentlichung des Artikels stattfand. Die Juristen gingen dabei auf einen Teil der Vorwürfe gegen Ulmen ein – zuvor hatten sie es allerdings zur Bedingung gemacht, dass nicht über ihre Einlassungen berichtet werden darf. Die Anwälte, die Ulmen seit der SPIEGEL-Veröffentlichung in der vergangenen Woche vertreten, sprechen im Zusammenhang mit den Vorwürfen unspezifisch von »unwahren Tatsachen«. Für Christian Ulmen gilt die Unschuldsvermutung.
Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle Lockerungen vor. Regeln für den Einsatz von künstlicher Intelligenz in Sicherheitsbehörden und Gesundheitssystemen etwa, sollen verschoben werden. Das Europaparlament muss in den kommenden Wochen und Monaten mit der Kommission und dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln. Manche Kritiker sehen darin ein Aufweichen der KI-Regulierung der EU, Befürworter sehen es als notwendigen Schritt, um die KI-Wirtschaft in Europa zu stärken. (Lesen Sie hier mehr darüber.)
