IT-Security-Ikone Bruce Schneier hat kürzlich in einem lesenswerten Artikel seine Perspektive zu KI & Security niedergeschrieben.

tl;dr:

• AI verstärkt Angreifende und Verteidigende, da beide Seiten automatisiert Schwachstellen finden können.
• Für die verteidigende Seite bietet KI potenziell mehr Vorteile: Schwachstellen könnten automatisiert identifiziert werden, ihre Behebung kann Teil des regulären Softwareentwicklungsprozesses werden.
• Die Möglichkeit für Patches und Updates ist zentral: „If the defense can find, but can’t reliably patch, flaws in legacy software, that’s where attackers will focus their efforts.„
• Optimistische Zukunftsszenarien erfordern die Zusammenarbeit und Bündelung finanzieller & personeller Ressourcen, z.B. um Sicherheitslücken KI-gestützt aufzuspüren.

Für den produzierenden Bereich ergeben sich aus meiner Sicht einige Implikationen:

• Die zunehmende Verschmelzung von IT & OT erfordert steigende Softwarequalität. Beim IIoT war Security nicht immer prioritär. Das wird sich (schnell) ändern müssen.
• Die Software Bill of Materials wird wohl an Bedeutung gewinnen: das langfristige Wissen darüber, welche Software-Bausteine, Frameworks & Co. in der Produktion im Einsatz sind, ist essenziell.
• Last but not least: der Bedarf nach firmenübergreifender Kooperation nimmt zu. Das ist kulturell nicht immer einfach, aber nur gemeinsam kann man ausreichend Ressourcen mobilisieren, um Sicherheitslücken proaktiv zu finden und zu beheben.