Deepfakes und digitale Gewalt: Diese Software will die EU jetzt verbieten

Summary

Die EU will stärker gegen Gewalt im Internet vorgehen. Im Fokus stehen dabei Anwendungen, die mithilfe von KI sexualisierende Bilder und Videos generieren – diese sogenannten Nudifier-Apps sollen künftig verboten werden. Damit reagiert das EU-Parlament auch auf den Grok-Skandal, bei dem Nutzer:innen mithilfe des Chatbots massenhaft Deepfakes von Frauen und Kindern erstellten und auf der Plattform X verbreiteten. Der Fall Collien Fernandes löst große Empörung aus Die Debatte um KI-generierte Nacktbilder und Videos bewegt derzeit ganz Deutschland. Nach einer ersten Demonstration in Berlin gingen zuletzt auch in Hamburg tausende Menschen auf die Straße. Wie ZDF Heute berichtet, trat auch Moderatorin und Schauspielerin Collien Fernandes auf die Bühne – trotz vorheriger Absage. „Ich stehe jetzt hier mit einer schusssicheren Weste, Polizeischutz und Security, weil ich Morddrohungen bekomme“, erklärte sie. „Da muss man sich nicht wundern, dass so viele Frauen den Mut nicht haben, rauszugehen und zu sagen, was ihnen angetan wurde.“ Fernandes hatte schon im Jahr 2023 öffentlich gemacht, dass über Jahre gefälschte Nacktfotos unter ihrem Namen verbreitet worden waren. Auch eine Dokumentation über den Fall wurde veröffentlicht. Auslöser der aktuellen Debatte sind Vorwürfe, die sie gegen ihren Ex-Mann Christian Ulmen erhebt. Laut dem Spiegel wirft sie ihm vor, unter ihrem Namen Fake-Profile erstellt und pornografisches Material verschickt zu haben. Fernandes hat in Spanien Anzeige erstattet. Dort hatte das Paar zuletzt gemeinsam gelebt. Das Verfahren befindet sich noch in einem frühen Stadium. Für Ulmen gilt die Unschuldsvermutung. Strengere Gesetze sollen Frauen und Kinder schützen Auch auf EU-Ebene bewegt sich etwas: Laut dem Spiegel hat das Parlament für ein Verbot bestimmter Deepfake-Software gestimmt. Die geplante Regelung betrifft Anwendungen, die mithilfe künstlicher Intelligenz Bilder und Videos so verändern oder erstellen, dass sie „sexuell eindeutige Aktivitäten oder i...