Per Prompt-Injection: Wie dieser Professor seine Studenten beim Schummeln mit KI erwischte

Summary

Jason Gibson ist Geschichtsprofessor an der Alcorn State University in Mississippi. In einem Tiktok-Video erklärt er, wie er seine Student:innen beim unerlaubten Einsatz von KI erwischte. Dazu hatte er in einer Aufgabenstellung in der Zwischenprüfung unsichtbaren weißen Text versteckt, der ein KI-Modell beim Schummeln anwies, Unsinn zu produzieren. Auf diese Weise habe er 32 von insgesamt 35 Student:innen überführen können. Wegen der unerlaubten KI-Nutzung seien sie zumindest teilweise durch die Prüfung durchgefallen. So setzen Student:innen KI zum Schummeln ein In Deutschland nutzen schon mehr als neun von zehn Student:innen Tools wie ChatGPT zumindest gelegentlich. Bei mehr als zwei Drittel kommt KI zum Einsatz, um Verständnisfragen zu klären. Rund 52 Prozent nutzen sie zur Analyse und Erstellung von Texten und knapp die Hälfte für Übersetzungen. Das geht aus einer bundesweiten Befragung der Hochschule Darmstadt hervor. In den USA zeichnet sich ein ähnliches Bild: Laut einer Analyse von OpenAI nutzen College-Student:innen ChatGPT häufiger als jede andere Zielgruppe. Um beim Schummeln nicht aufzufallen, bauen manche Student:innen inzwischen gezielt Tippfehler ein oder nutzen „dumme“ Prompts, damit die Ergebnisse natürlicher klingen. Der unerlaubte Einsatz von KI stellt Hochschulen weltweit vor Herausforderungen. Die University of Chicago Law School hat als Reaktion darauf ein Laptop-Verbot für Erstsemester eingeführt. Ziel sei es, das kritische Denken der Student:innen zu fördern. Gegenüber Business Insider erklärte der Dekan, einige Professor:innen hätten „ein wenig geschlafen”, indem sie Aufgaben stellten, die von Student:innen mit Tools wie ChatGPT erledigt werden könnten. Anstatt KI vollständig zu verbieten, soll der Lehrplan so umgestaltet werden, dass klar getrennt wird, welche Fähigkeiten Student:innen selbst entwickeln müssen und wo KI erlaubt ist. Die neue Strategie umfasst laptopfreie Vorlesungen, beaufsichtigte Prüfungen und mündliche Verteidigungen wich...