Künstliche Intelligenz: Cisco berichtet von Fehlern bei KI-Sicherheitsberichten

Summary

Künstliche Intelligenz: Cisco berichtet von Fehlern bei KI-Sicherheitsberichten Zwar spart die KI viel Zeit beim Erstellen der Berichte, bei der Nachbearbeitung zeigen sich aber viele Fehler, die zum Risiko werden. Bei Cisco tragen die Autoren von Sicherheitsberichten auch weiterhin die volle Verantwortung. Bild: STEFANI REYNOLDS/AFP via Getty Images Cisco hat den Einsatz von künstlicher Intelligenz bei der Erstellung von Berichten nach IT-Sicherheitsübungen untersucht. Wie das Unternehmen in einem Blogbeitrag schreibt(öffnet im neuen Fenster), wurden dabei erhebliche Zeitersparnisse, aber auch kritische Risiken festgestellt. Während die Technologie den Zeitaufwand für Entwürfe um 50 Prozent reduzierte, traten häufig inhaltliche Fehler, Halluzinationen und die Vermischung verschiedener Datensätze auf. Die KI lieferte zudem häufig ungewöhnliche Schlussfolgerungen und Empfehlungen, die doppelt vorhanden, irrelevant oder nicht umsetzbar waren.Die Qualität bei Rechtschreibung und Grammatik war im Vergleich zu herkömmlichen Berichten allerdings besser und Prüfer bemerkten in einem Blindtest nicht, dass es sich um KI-generierte Berichte handelte. Der Schreibstil wurde jedoch gelegentlich als inkonsistent wahrgenommen.Inhalte verschiedner Berichte werden vermischtAls besonders problematisch wird hervorgehoben, dass sich die Inhalte verschiedener Berichte vermischten, wenn diese in einer Sitzung verarbeitet werden sollten. Dies geschah auch dann, wenn die Notizen zu den Berichten zuvor gelöscht wurden. Cisco stuft die KI-gestützte Berichterstattung daher derzeit als ungeeignet für den produktiven Einsatz ein. Autoren müssen weiterhin die volle Verantwortung übernehmen und manuelle Kontrollen durchführen, da davon ausgegangen wird, dass die KI bei echten und komplexen Sicherheitsvorfällen noch größere Probleme haben dürfte.Auch wenn KI immer mehr als Werkzeug für Entwickler wahrgenommen wird, führt die Technologie sowohl bei Programmierern als auch bei Führungskräften häufig...