Experiment zeigt: Menschen überschätzen die Kompetenzen von KI-Systemen

Summary

Forscher:innen der kanadischen University of Waterloo und des University College London haben mögliche Unterschiede der Kommunikation zwischen Menschen sowie zwischen Mensch und Maschine untersucht. Dabei ging es darum herauszufinden, wie Antworten von KI-Systemen gegenüber jenen anderer Menschen in puncto Sicherheit und Selbstvertrauen bewertet werden. Menschen überschätzen KI-Antworten Es zeigte sich, dass die Proband:innen die Selbstsicherheit von KI-Systemen gegenüber jener von Menschen systematisch überschätzten – selbst dann, wenn ihr Verhalten identisch war. Die Ergebnisse der Studie sind im Communications Psychology veröffentlicht worden. Empfehlungen der Redaktion „Da KI-Systeme immer ausgefeilter werden, verlassen sich Menschen zunehmend auf sie, um Ratschläge zu erhalten, etwa dazu, welche Produkte sie kaufen oder welche Inhalte sie konsumieren sollen“, erklärte Clara Colombatto vom Institut für Psychologie der University of Waterloo gegenüber phys.org. Ein ähnliches Vertrauen spiegele sich bei menschlicher Interaktion, bei der man Anleitung und Rat von anderen suche, so Colombatto. Ein wichtiger Unterschied sei aber, dass Menschen beim Erteilen von Ratschlägen oft mitkommunizierten, wie sicher sie sich ihrer Einschätzung seien. Davon sei abhängig, wie sehr man dem Rat vertraue und sich darauf verlasse, so die Psychologin und Studienautorin. KI-Systemen fehlt Selbsteinschätzung Genau diese Selbsteinschätzung fehle aber den KI-Systemen wie ChatGPT oder Gemini. Diese generierten die Antworten auf bestimmte Fragen, ohne anzugeben, wie sicher sie sich ihrer Sache seien. Im Rahmen der Untersuchungen stellten Colombatto und ihre Kolleg:innen fest, dass Menschen ihr Vertrauen in die KI-Kompetenz daraus ableiteten, wie schnell die jeweilige Antwort kam oder als wie fähig das System allgemein wahrgenommen wurde. Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick...