Warum schmeichelnde Chatbots zwischenmenschliche Beziehungen gefährden könnten

Summary

Wenn Chatbots den Nutzer:innen zu sehr schmeicheln, kann das schwerwiegende Folgen nach sich ziehen. So haben in den USA schon mehrere Menschen nach intensiver KI-Nutzung Suizid begangen. Wie Techcrunch berichtet, hat eine neue Studie der Stanford University jetzt untersucht, wie groß das Problem übermäßig zustimmender KI-Modelle tatsächlich ist. Die Ergebnisse wecken ernsthafte Bedenken: Menschen könnten durch den Umgang mit KI wichtige soziale Fähigkeiten verlieren. Chatbots werden immer öfter zur Vertrauensperson Ursprünglich waren Chatbots vor allem für Brainstormings oder für das Umformulieren von Texten gedacht. Laut OpenAI-CEO Sam Altman nutzen aber vor allem junge Erwachsene KI inzwischen eher als eine Art digitalen Lebensberater. „Sie treffen keine wichtigen Entscheidungen mehr, ohne vorher ChatGPT um Rat zu fragen, was sie tun sollen”, so Altman. Auch Myra Cheng, Informatik-Doktorandin an der Stanford University und Hauptautorin der Studie, wurde auf das Thema aufmerksam, als sie erfuhr, dass Student:innen Chatbots um Beziehungsratschläge baten und sie sogar damit beauftragten, Trennungsnachrichten zu verfassen. Viele KI-Modelle neigen dazu, Nutzer:innen zu schmeicheln oder ihnen ungeprüft zuzustimmen – auch dann, wenn Aussagen falsch oder sogar potenziell gefährlich sind. Dieses Phänomen wird als „Sycophancy“ bezeichnet und ist laut dem Anthropologen Webb Keane ein manipulativer Mechanismus, der bei Nutzer:innen Suchtverhalten erzeugen soll. Besonders im Kontext der Veröffentlichung von GPT-5 geriet das Phänomen in den Fokus. OpenAI hatte das neue Modell bewusst weniger schmeichelhaft konzipiert. Viele Nutzer:innen gaben allerdings an, die „wärmere Stimme” des Vorgängers GPT-4o zu vermissen – und legten damit ein strukturelles Problem offen. Das Modell, das empathischer wirkte, war ausgerechnet bei jenen besonders beliebt, die ChatGPT für persönliche Probleme nutzten. Empfehlungen der Redaktion Das haben die Stanford-Forscher:innen untersucht Im ersten Te...