KW 11: Die Woche, in der wir uns über Pfusch am Bau aufregen

Summary

Liebe Leser*innen, seit 2019 begleite ich für netzpolitik.org die Pläne für die Verordnung der EU zu sogenannter „Künstlicher Intelligenz“. Es ist das erste europäische Gesetz, bei dessen Entstehung ich von Anfang an mit dabei war. Wie bei einem Gebäude, für das man schon die ersten Ideen und Entwürfe am Reißbrett mitverfolgt hat. Dann jeden Tag an der Baustelle vorgefahren ist, erst beim Aushub und dann Stockwerk um Stockwerk zuschaute, wie es nach oben wächst. 2024 waren die Pläne fertig verhandelt. Doch im Nachhinein muss ich sagen: Wenn die KI-Verordnung ein Gebäude ist, dann kommt mir das Ergebnis zunehmend vor wie Pfusch am Bau. Ich fühle mich verschaukelt von diesem Gesetz, das doch eigentlich zumindest in Teilen den Zweck haben soll, die Grundrechte der Menschen in der EU zu schützen. Dafür zu sorgen, dass sie nicht zu Unrecht im Gefängnis landen, von Sozialleistungen ausgeschlossen werden, an den EU-Grenzen von Maschinen schikaniert oder bei jedem Schritt im öffentlichen Raum verfolgt werden können – weil ein „KI-System“ das nun einmal möglich macht. Auf die vielen Schwachstellen im fertig verhandelten Bauplan hatten wir damals schon hingewiesen. Artikel 5 der Verordnung regelt all die grundrechtsrelevanten Schweinereien, die mit “KI” technisch möglich, in der Union aber tabu sind. Darunter etwa Systeme, die Gefühle erkennen sollen oder Vorhersagen dazu treffen, ob jemand wohl kriminell wird. (Minority Report lässt grüßen.) Verboten sind in der EU demnach auch Systeme, mit denen man im Internet gezielt nach einem Gesicht suchen kann und dann weitere Treffer zu der Person angezeigt bekommt. Man kennt das von umstrittenen Suchmaschinen wie PimEyes oder Clearview. Denn Menschen aus dem Team Bürgerrechte sind sich schon lange einig: Solche Systeme stellen eine besonders große Gefahr für unsere Gesellschaft dar. Diese kommerziellen Anbieter scannen das öffentliche Internet nach auffindbaren Gesichtern und erstellen daraus gigantische Datenbanken. Der Upload eine...