EU-Leitlinien für KI-Kennzeichnungspflichten ab August wirksam

Summary

Was ist echt, was menschen- und was ist computergeneriert? Unter der EU-Verordnung über Künstliche Intelligenz müssen Betreiber von KI-Systemen offenlegen, wenn es sich um KI-generierte Inhalte handelt – zumindest grundsätzlich. Wie das genau aussehen soll, hat die EU-Kommission nun beschlossen. Weiterlesen nach der Anzeige Der Grundsatz war längst beschlossen: In Artikel 50 der KI-Verordnung sind verschiedene Pflichten festgelegt, für die nun die konkreteren Ausführungsvorschriften beschlossen wurden. Bei einer direkten Interaktion zwischen Menschen und KI-Systemen müssen die Anbieter etwa dafür sorgen, dass Menschen darüber informiert werden, dass die vermeintliche Gegenseite eine trainierte Rechenmaschine ist. Auch wenn Emotions- oder biometrische Erkennungssysteme zum Einsatz kommen, muss darüber informiert werden. Wenn Inhalte wie Bilder, Texte oder Videos KI-generiert sind und als „echt“ gelten könnten, müssen diese maschinenlesbar als KI-generiert gekennzeichnet werden. Die Markierungs- und Erkennungspflichten, die nun angenommen wurden, umfassen einen Ansatz auf zwei Ebenen: sowohl mit Watermarking innerhalb der eigentlichen Inhalte als auch in signierten Metadaten soll die KI-Generierung hinterlegt sein – mit Ausnahme von reinen Texten. Weitere Ausnahmen betreffen künstlerische, fiktionale und satirische Inhalte sowie Situationen, in denen ein Mensch einen KI-generierten Text abgenommen hat und nach redaktionellen Sorgfaltspflichten verantwortet. Auch dann entfällt die Kennzeichnungspflicht. Wenn also ein Verlag etwa eine KI für seine Leser die Texte schreiben lässt, die ein Redakteur am Ende jedoch gegenliest, kann dies bereits die Kennzeichnungspflichten wieder aushebeln. Kennzeichnungspflicht gilt ab 2. August Wer sich nicht an die Vorschriften hält, muss mit Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Vorjahresumsatzes rechnen. Zuständig für die Durchsetzung sind entweder die nationalen Aufsichtsbehörden, das „AI Office“ der EU od...