Obwohl die KI falsch liegt: Menschen verlassen sich eher auf Chatbots, als ihr Unwissen zuzugeben

Summary

Chatbots wie ChatGPT, Claude und Gemini bieten uns laut ihren Macher:innen geballtes Wissen mit nur wenigen Knopfdrücken. In der Vergangenheit hat sich aber gezeigt, dass die Tools nicht immer hundertprozentig richtig liegen – und teilweise sogar nie dagewesene Inhalte halluzinieren. Laut den Verantwortlichen einer neuen Studie könnte das in Kombination mit menschlichen Eigenheiten eine gefährliche Kombination ergeben. Warum die Studie eine schlechte KI brauchte Forscher:innen mehrerer französischer und einer italienischen Universität haben untersucht, wie menschliche Antworten ausfallen, wenn sie KI nutzen dürfen. Genauer gesagt, ging es darum, herauszufinden, ob Menschen trotz KI-Nutzung zugeben würden, dass sie eigentlich von einem Thema keinerlei Ahnung haben. Um das herauszufinden, haben sie eine KI herausgesucht, die in einigen Bereichen besonders oft scheitert. Top-Artikel Die Wahl fiel dabei auf Step 3.5 Flash. Diesem und anderen Modellen wurden visuelle Fragen zu Details in Filmen gestellt. Dazu zählte etwa, wie die Frisur von Agatha in The Grand Budapest Hotel aussieht oder welche Farbe die Schildkröte im Animationsfilm Momo hat. KI-Modelle schneiden in solchen Detailfragen laut den Forscher:innen grundsätzlich recht schlecht ab. Step 3.5 Flash schaffte es nie, die Details herauszufinden. Andere Modelle wie Claude 4.6 Sonnet und Gemini 3.5 Flash konnten immerhin noch einzelne Details richtig wiedergeben. Warum fiel die Wahl dann aber auf das schlechteste Modell? Die Verantwortlichen haben für ihre Studie Proband:innen im Anschluss in zwei Gruppen eingeteilt: eine Gruppe, die eigenständig antworten musste, und eine, die auf KI-Unterstützung durch Step 3.5 Flash zurückgreifen durfte. Beide Gruppen mussten im Anschluss dieselben Fragen beantworten, die auch die KI zuvor beantworten sollte. Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von YouTube Video, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeige...