Eine gezielte Anpassung der Sicherheitslandschaft in Unternehmen an die neue Situation ist dringend erforderlich, sowohl im Rahmen der Verwendung von GenAI im Unternehmen als auch bei der Abwehr von KI-gestützten Angriffen von außen. Um den KI-Einsatz verantwortungsvoll, zuverlässig und sicher zu gestalten, aber auch um eine angriffsresistente IT-Landschaft zu gewährleisten, ist die Weiterentwicklung bestehender, traditioneller Sicherheitsstrategien unabdingbar. Dafür sollten folgende fünf Grundvoraussetzungen geschaffen werden.

1. KI-Governance

Um eine effektive und zielgerichtete Steuerung des Einsatzes von KI zu ermöglichen, muss zunächst das Sicherheitsmanagement um neue Anforderungen erweitert werden. Standardrahmenwerke wie ISO42001, NIST.AI.100-2 als Teil des NIST KI-Rahmenwerks, BSI AIC4 Kriterienkatalog und die OWASP-Checklisten für sichere KI sind eine sehr gute Basis, um die entsprechenden KI-Policies im Unternehmen zu etablieren und daraus die notwendigen technischen und organisatorischen Maßnahmen abzuleiten.

Darüber hinaus ist es erforderlich, ein KI-Steuerungsgremium zu etablieren und entsprechende Informations- und Kommunikationsprozesse zu definieren sowie deren Durchsetzungsfähigkeit sicherzustellen. Dabei sollten neben den für eine Entscheidungsfindung notwendigen Verantwortlichen auch interne KI-Anbieter und -Anwender, Sicherheits- und Datenschutzbeauftragte, Risikomanager, die Rechtsabteilung, Personalverantwortliche, gegebenenfalls Interessenvertretungen sowie Compliance-Verantwortliche eingebunden werden.