„Agenten können nicht programmieren“: Hacker George Hotz warnt vor dem Einsatz von KI

Summary

In der Hacker-Community (und darüber hinaus) ist der Name George „Geohot“ Hotz weitläufig bekannt. Der mittlerweile 36-Jährige wurde berühmt, als er mit 17 Jahren das iPhone hackte. Einige Zeit später veröffentlichte er einen Jailbreak für die PS3. Mittlerweile ist der Hacker zu legaleren Aktivitäten übergegangen. In seinem Blog „The Singularity is nearer“ schreibt er regelmäßig seine Meinung über Trends und Entwicklungen in der Tech-Branche nieder. Warum KI-Agenten zum Problem werden In einem Post mit dem Titel „The Eternal Sloptember“ hat Hotz mit KI-Agenten abgerechnet. Er hat in den vergangenen sechs Monaten sämtliche KI-Tools und Modelle für Coding-Aufgaben auf Herz und Nieren getestet. Sein Urteil: „Agenten können nicht programmieren und wir brauchen immer länger dafür, zu realisieren, dass sie es nicht können“. Empfehlungen der Redaktion Hotz fügt hinzu: „Ich sage jetzt voraus, dass KI-Agenten in der Softwareentwicklung einer der größten Fehler in der Geschichte des Arbeitsbereiches sein werden. […] Der Output ist defekt, aber in einer Art und Weise, die sich immer schwerer aufspüren lässt. Das ist genau das, was man von einem stetig präziser werdenden statistischen Modell erwarten kann“. Er vergleicht den Output dabei mit Spielautomaten wie einem einarmigen Banditen: „Der Agent lädt den Prozess vorab und gibt dir dann einen Slotmachine-Hebel, an dem du ziehen kannst – in der Hoffnung, dass die KI den Feinschliff hinbekommt. Aber das schafft sie nie komplett“. Gefahr durch KI-Agenten Die größte Gefahr sieht Hotz dabei für große Unternehmen und Personen, die sich nicht mit Coding auskennen. Letztere haben nicht die ausreichenden Skills, um den falschen Output von KI-Agenten zu erkennen, geschweige denn ihn zu korrigieren. Bei Organisationen werden KI-Agenten primär dort eingesetzt, wo viel Output gefordert und die Produktivität damit angeblich gesteigert wird. Der Output wird dann oftmals von denjenigen generiert, die nicht die notwendigen Skills zum Überprüfe...