EU-Parlament will Nudifier-Apps verbieten

Summary

Die Entwicklung im Bereich KI eilt der Gesetzgebung oft voraus. Besonders deutlich zeigt sich das bei sogenannten Nudifier-Apps, die mittels generativer KI aus gewöhnlichen Fotos real wirkende Nacktaufnahmen in Form von Deepfakes erstellen. Das EU-Parlament hat nun am Donnerstag mit überwältigender Mehrheit dafür gestimmt, dass solche Systeme künftig verboten werden sollen, sofern sie ohne Zustimmung der abgebildeten Personen sexuell explizite Inhalte generieren. Dafür sprachen sich 569 Abgeordnete, 45 dagegen, 23 enthielten sich. Weiterlesen nach der Anzeige Der Vorstoß ist Teil einer umfassenden Positionierung der Abgeordneten zur sogenannten Digital-Omnibus-Verordnung. Dabei geht es den Volksvertretern um eine praxisnahe Anpassung der KI-Verordnung. Um Unternehmen mehr Planungssicherheit zu geben, schlägt das Parlament eine Anpassung der Fristen im AI Act vor. Hochrisiko-KI-Systeme, die etwa in der Biometrie, im Bildungswesen oder in der Strafverfolgung eingesetzt werden, sollen demnach erst ab dem 2. Dezember 2027 den vollen Anforderungen unterliegen. Für KI-Anwendungen im Bereich der allgemeinen Produktsicherheit ist sogar der August 2028 im Gespräch. Schutz vor Missbrauch und mehr Transparenz Bei der digitalen Integrität des Individuums zeigt sich das Parlament dagegen unnachgiebig. Das geplante Verbot der Entkleidungs-KI zielt direkt auf Anbieter wie Elon Musks Grok, deren Software dazu missbraucht wird, Frauen und Kinder digital zu entwürdigen. Ausgenommen von diesem Bann wären lediglich Systeme, die über wirksame technische Sicherheitsbarrieren verfügen, die eine Generierung solcher Deepfakes unterbinden. Zusätzlich streben die Abgeordneten eine Kennzeichnungspflicht für KI-Inhalte bis November 2026 an, um deren Herkunft transparent zu machen. Die Abgeordneten reagieren mit den skizzierten Verschärfungen auf eine Welle von digitaler sexualisierter Gewalt. Prominente Fälle wie der der Moderatorin Collien Fernandes verdeutlichen die zerstörerische Kraft der T...