Familien-Newsletter: Die dunkle Seite der künstlichen Intelligenz

Summary

Dieser Text stammt aus dem Familien-Newsletter der „Süddeutschen Zeitung“, der jeden Freitagabend verschickt wird. Hier können Sie ihn abonnieren.Liebe Leserin, lieber Leser,als Datenjournalistin gehört das Programmieren zu meinem Alltag, und KI ist für mich ein Werkzeug, das – bedacht und kontrolliert eingesetzt – einen bestimmten Teil meiner Arbeit effizienter macht. In den vergangenen Wochen habe ich es jedoch mit einem KI-Werkzeug zu tun gehabt, bei dem es mir kalt den Rücken runtergelaufen ist.Natalie Sablowski aus meinem Team war auf KI-generierte Darstellungen von Missbrauch gestoßen. Allerdings nicht auf Deepfakes, also Bilder von meist real existierenden Personen, die mithilfe künstlicher Intelligenz in Szenen oder Posen gezeigt werden, die so nie stattgefunden haben. Übrigens ein Grund, weshalb man aktuell bedachter denn je mit Fotos der eigenen Kinder umgehen sollte. Natalie aber hat Chatbots entdeckt, die fiktive Missbrauchsopfer simulieren und ihre Gesprächspartner aktiv in eine Gewaltspirale ziehen.KI-Chatbots wie Chat-GPT kennt ja mittlerweile eigentlich jeder – als Assistenten, mit denen man schreiben kann, als wären es echte Menschen. Charakter-Chatbots gehen noch einen Schritt weiter: Sie schlüpfen in die Rolle eines Menschen. Auf Chatbot-Plattformen kann man so mit einer künstlich generierten Version des Lieblingsstars chatten oder in eine Fantasiewelt abtauchen.Kennen Sie zum Beispiel die Fantasy-Buchreihe „Percy Jackson“ von Bestsellerautor Rick Riordan? Ich habe einen Chatbot entdeckt, der einen in diese Welt voller griechischer Mythologie, Freundschaft und Abenteuer entführt. Dort kann man mit all den Buchcharakteren chatten und an ihrer Seite eine der berühmt-berüchtigten Quests lösen. Kein Wunder also, wenn es auch Kinder und Jugendliche auf diese Plattformen zieht. Und schließlich kostet die Nutzung nichts, bei einigen Anbietern muss man nicht mal sein Alter angeben.Doch auf denselben Plattformen haben Natalie und ich auch etliche Chatbots ...