Sicherheitsberatungsbedarf

Anfang März wurde McKinsey gehackt. Der firmeninterne KI-Chatbot „Lilli“ wurde von einem autonomen KI-Agenten attackiert, der SQL-Schadcode in das System einschleusen konnte – innerhalb von zwei Stunden. Der Agent hatte dadurch Zugang zu >700.000 internen Files und >46 Mio. internen Chat-Nachrichten. Hier die ganze Geschichte: https://codewall.ai/research/how-we-hacked-mckinseys-ai-platform

Die Security-Experten von Security Research Labs beschreiben in einem Blogpost das Problem: KI-Assistenten und -Chatbots werden mit viel Druck und hoher Geschwindigkeit aufgesetzt, gleichzeitig verfügen die Systeme über weitgehende Zugriffs- und Schreibrechte. Dadurch steigt die Angriffsfläche. Hier der ganze Beitrag: https://srlabs.de/blog/hacking-ai-agent

Für Unternehmen und deren Bemühungen um Künstliche Intelligenz sollte Security eine wesentliche Rolle spielen. Gerade im produzierenden Bereich, wo sich IT und OT immer mehr verschneiden, können solche Angriffe abseits vom potenziellen Verlust von Betriebsgeheimnissen & Co. eine echte, physische Gefahr darstellen.

Die McKinsey-Geschichte ist ein wichtiges Warnsignal – in dem Fall wurde der Hack durch CodeWall durchgeführt und entsprechend gemeldet. Beim Angriff eines malignen Akteurs wären die Konsequenzen wohl gewaltig gewesen.

via Logbuch: Netzpolitik