EU-Parlament stimmt gegen Chatkontrolle – aber für Kampf gegen Deepfakes

Summary

Ein letzter Versuch zur Beibehaltung des aktuellen Systems im Kampf gegen sexuellen Kindesmissbrauch im Internet ist gescheitert. Eine Mehrheit der Abgeordneten des Europaparlaments lehnte bei einer Abstimmung in Brüssel die Verlängerung der freiwilligen Kontrolle von Chats durch Online-Plattformen über den 3. April hinaus ab. Dadurch war es Diensten und Unternehmen wie Google, LinkedIn, Meta, Microsoft und Snapchat bislang erlaubt, Nachrichtenverläufe zu scannen, um verbotene Darstellungen von sexuellem Kindesmissbrauch aufzuspüren und zu melden.Kurz vor der Abstimmung hatten noch vier EU-Kommissare die Parlamentarier mit einem Schreiben aufgefordert, eine Verlängerung der derzeit gültigen Regeln zur Aufdeckung von Kinderpornografie in privater Kommunikation zu ermöglichen. Verbot sei „dringend geboten“Beschlossen wurde hingegen, dass die EU gegen Porno-Deepfakes und sexualisierte Bilder im Netz vorgeht. Das Europaparlament stimmte für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist.Es bezieht sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie „sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung“ zeigen. Solche Bilder und Videos „schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre“, heißt es im Gesetzentwurf zur Begründung.Ein ausdrückliches Verbot sei „dringend geboten“, argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.Neben den Grok-Fäll...