Internet: Deepfakes aufdecken: So arbeiten IT-Forensiker

Summary

Ihre Zahl nimmt rasant zu: Auf Social Media sorgen Deepfakes im besten Fall für Spaß und Unterhaltung. Auf Pornoseiten können sie den Ruf von Menschen zerstören - und auf politischen Seiten Wahlen beeinflussen. Deepfakes sind täuschend echte, KI-generierte oder manipulierte Bilder, Videos und Audioaufnahmen. In der aktuellen Debatte werden sie auf der politischen Agenda zunehmend als Problem erkannt. Aber wie enttarnt man ein Deepfake? Nicolas Müller vom Fraunhofer-Institut für Angewandte und Integrierte Sicherheit in Garching bei München leitet dort eine Forschungsgruppe zu Deepfakes. Eine erste Analyse kann bereits mit den eigenen Augen und Ohren erfolgen, sagt er. «Bei einem Interview mit einer Person kann man checken: Das soll in Berlin aufgenommen sein an einem bestimmten Tag. Passt denn das Wetter? Man kann bei einem Video auch schauen: Kommen alle Schatten aus der richtigen Ecke?» Das könne man händisch machen: «Da zieht man auf einem Standbild von den Schatten eine Linie zu den Schattengebern und schaut, ob alle diese Linien, wenn man sie nach oben weiter zeichnet, von einem gemeinsamen Punkt ausgehen. Wenn das nicht so ist, dann ist es mit einer sehr hohen Wahrscheinlichkeit ein Deepfake - zumindest, wenn es eine Szene draußen ist mit nur einer Lichtquelle.» Eine Reihe von Indizien Ein weiteres Indiz sind Momente, wo zwar Stimme zu hören, aber der Mund der sprechenden Person geschlossen ist: «Dann kann man schauen: Ist das nur eine gleichmäßige Verzögerung zwischen Video und Tonspur, oder hat da die KI einen Fehler gemacht?» Es gebe weitere klassische Indizien für einen Deepfake: Artefakte um den Mundbereich, oder Hals und Oberkörper passen von den Hauttönen her nicht zusammen, eine Hand hat sechs Finger, ein Gegenstand verschmilzt mit der Hand, oder schwebt über ihr. Ein weiterer Hinweis seien die Metadaten - auch wenn diese fehlen. «Wenn sie mit aktuellen KI-Modellen wie Gemini oder ChatGPT Deepfakes erzeugen, dann steht in deren Metadaten drin, dass das ...