Generative KI kann interne Dokumente zusammenfassen, Serviceanfragen klassifizieren oder Wissen aus Unternehmensdaten zugänglich machen. Ohne verbindliche Regeln können Prompts und Datei-Uploads jedoch personenbezogene Daten, Geschäftsgeheimnisse oder geschützte Informationen an externe Dienste übertragen. KI-Governance bezeichnet den organisatorischen und technischen Rahmen, mit dem Unternehmen KI-Anwendungen auswählen, freigeben, überwachen und sicher betreiben. Anders ausgedrückt: Mit KI-Governance nutzen Unternehmen generative KI, ohne den Schutz vertraulicher Daten dem Zufall zu überlassen.

KI-Governance ist mehr als eine allgemeine Leitlinie für den verantwortungsvollen Umgang mit künstlicher Intelligenz. Sie legt fest, welche KI-Anwendungen eingesetzt werden dürfen, wer für ihre Freigabe verantwortlich ist, welche Daten verarbeitet werden und wie Risiken kontrolliert werden.

Dabei ergänzt KI-Governance die bestehende IT-Governance. Während IT-Governance unter anderem Verfügbarkeit, Betrieb, Berechtigungen und IT-Risiken steuert, berücksichtigt KI-Governance zusätzliche Besonderheiten generativer Modelle: nicht vollständig vorhersehbare Ausgaben, Prompt- und Kontextdaten, Modellversionen, Anbieterabhängigkeiten und sogenannte Shadow AI.

Ein belastbares Rollenmodell ordnet Verantwortlichkeiten eindeutig zu:

• Die Geschäftsführung verantwortet die strategische Freigabe und die angemessene Organisation.
• Der Chief Information Security Officer (CISO) bewertet Sicherheitsrisiken und Schutzmaßnahmen.
• Der Datenschutzbeauftragte prüft datenschutzrechtliche Anforderungen.
• IT- und Fachverantwortliche stellen Betrieb, Datenqualität und fachliche Kontrolle sicher.
   

Art. 4 EU AI Act verpflichtet Anbieter und Betreiber, ein ausreichendes Maß an KI-Kompetenz bei den Personen sicherzustellen, die im Rahmen ihrer Tätigkeit mit KI-Systemen arbeiten. Umfang und Inhalt der Maßnahmen richten sich nach Kenntnissen, Erfahrung, Ausbildung und Nutzungskontext.

Ein zentrales KI-Register schafft dafür die notwendige Transparenz. Es sollte mindestens eingesetzte Large Language Models (LLMs), API-Schnittstellen, SaaS-Anwendungen, Zweck, Anbieter, Datenklassen, Verantwortliche und Freigabestatus dokumentieren.

Das größte Risiko liegt häufig nicht im Modell selbst, sondern in den Daten, die ein Unternehmen an ein KI-System übermittelt. Dazu zählen beispielsweise:

• personenbezogene Daten aus Kunden- und Personalsystemen
• Vertragsinhalte und nicht veröffentlichte Geschäftszahlen
• Quellcode, Konstruktionsdaten und interne Prozessbeschreibungen
• Zugangsdaten, Sicherheitskonfigurationen und strategische Planungen
   

Bei öffentlichen Consumer-LLMs ist für Unternehmen oft nicht ausreichend nachvollziehbar, wie Prompts, Datei-Uploads und Ausgaben verarbeitet werden. Entscheidend sind die jeweiligen Vertragsbedingungen, die Konfiguration des Dienstes, Speicherfristen, Sub-Auftragsverarbeiter und die Frage, ob Eingaben für Modellverbesserungen verwendet werden.

Auch der Schutzstatus eines Geschäftsgeheimnisses kann gefährdet sein. Nach § 2 GeschGehG setzt ein Geschäftsgeheimnis unter anderem voraus, dass angemessene Geheimhaltungsmaßnahmen getroffen wurden. Werden vertrauliche Informationen ohne geeignete Schutzmaßnahmen in frei zugängliche KI-Dienste übertragen, kann dies die Nachweisbarkeit solcher Maßnahmen erschweren.

Ein weiterer Risikofaktor ist Shadow AI. Mitarbeitende nutzen dabei nicht freigegebene KI-Dienste für Aufgaben, die eigentlich interne Dokumente oder Kundendaten erfordern. Ein vollständiges KI-Register, technische Zugriffskontrollen und klare Vorgaben für erlaubte Anwendungen sind deshalb wirksamer als ein pauschales Verbot, das in der Praxis nicht kontrolliert wird.

Zusätzlich müssen Unternehmen prüfen, in welchen Ländern Daten verarbeitet werden. Relevant sind unter anderem Rechenzentrumsstandorte, Fernzugriffe aus Drittstaaten, Sub-Auftragsverarbeiter und die vertragliche Grundlage für internationale Datenübermittlungen.

Der EU AI Act verfolgt einen risikobasierten Ansatz. Welche Anforderungen gelten, hängt unter anderem vom KI-System, seinem Zweck, den betroffenen Personen und dem konkreten Einsatzszenario ab. Für Unternehmen ist deshalb nicht nur entscheidend, welches Modell eingesetzt wird, sondern auch, welche Anwendung darauf aufbaut und welche Daten verarbeitet werden.

Generative KI kann Bestandteil eines konkreten KI-Systems sein. General-Purpose-AI-Modelle (GPAI-Modelle) sind dagegen für unterschiedliche Aufgaben einsetzbar. Für Anbieter solcher Modelle gelten eigene Anforderungen. Unternehmen, die diese Modelle in eigene Anwendungen integrieren oder als Betreiber einsetzen, müssen ihre konkrete Rolle und den jeweiligen Anwendungsfall gesondert bewerten.

Art. 50 EU AI Act enthält Transparenzpflichten für bestimmte KI-Systeme und Nutzungssituationen. Diese Pflichten gelten seit dem 2. August 2026. Dazu gehören unter anderem die Information, wenn Personen direkt mit einem KI-System interagieren, sowie Anforderungen an die Kennzeichnung bestimmter künstlich erzeugter oder veränderter Inhalte. Welche Pflicht im Einzelfall greift, hängt von der konkreten Nutzung und der Rolle des Unternehmens ab.

Der EU AI Act ersetzt außerdem keine technische Sicherheitsarchitektur. Die Verordnung legt beispielsweise nicht automatisch fest, ob ein Anbieter Unternehmenseingaben für Modelltraining verwenden darf, welche Personen auf interne Dokumente zugreifen können oder wie ein Datenabfluss erkannt wird. Diese Fragen müssen Unternehmen zusätzlich über Datenschutz, Informationssicherheit, Verträge und technische Kontrollen regeln.

Die Informationen in diesem Artikel dienen dabei als praxisnaher Orientierungsrahmen. Für die Bewertung eines konkreten KI-Systems müssen Unternehmen die aktuelle Rechtslage, die Anbieterbedingungen und ihren individuellen Anwendungsfall prüfen lassen.

Eine KI-Governance wird erst durch verbindliche Prozesse wirksam. Vor der Einführung eines neuen KI-Tools oder Modells sollte ein standardisiertes Review stattfinden:

• Security: Welche Daten werden verarbeitet? Welche Schnittstellen, Identitäten und Protokolle sind vorhanden?
• Legal und Datenschutz: Welche Rechtsgrundlage, Vertragsregelung und Dokumentation ist erforderlich?
• Business Case: Welcher konkrete Prozess wird verbessert und wie wird der Nutzen gemessen?
   

Parallel dazu benötigen Unternehmen eine Schutzbedarfsanalyse. Ein internes System zur Zusammenfassung öffentlich verfügbarer Informationen ist anders zu bewerten als ein KI-Assistent mit Zugriff auf Personalakten oder technische Entwicklungsdaten.

Für jeden Use Case sollten daher mindestens Zweck, Datenarten, Nutzergruppen, Modell, Anbieter, Speicherort, Aufbewahrungsfrist und erlaubte Ausgaben dokumentiert werden. Änderungen an Modellversionen, Nutzungsbedingungen oder Sub-Auftragsverarbeitern müssen anschließend erneut bewertet werden.

Ein Audit-Trail hält Freigaben, Risikobewertungen, Schulungsnachweise, Richtlinienbestätigungen und relevante Sicherheitsereignisse nachvollziehbar fest. Das erleichtert interne Prüfungen und schafft eine belastbare Grundlage für die Weiterentwicklung der KI-Governance.

Eine praktikable KI-Richtlinie legt fest, welche Daten in welchem Anwendungsszenario verarbeitet werden dürfen. Unternehmen können beispielsweise zwischen öffentlichen, internen und streng vertraulichen Informationen unterscheiden. Für jede Datenklasse sollten sie definieren, welche KI-Dienste zugelassen sind, welche Freigaben erforderlich sind und welche Inhalte nicht in Prompts oder Datei-Uploads gehören.

Für vertrauliche Informationen können geschützte Enterprise-Umgebungen oder dedizierte Instanzen eine geeignete Option sein. Der Begriff „Enterprise“ allein sagt jedoch nichts über die tatsächliche Datensicherheit aus. Vor der Freigabe müssen Unternehmen die konkreten Vertrags- und Systemeigenschaften prüfen. Dazu gehören insbesondere:

• Wird die Eingabe für Modelltraining oder Modellverbesserungen verwendet?
• Wie lange werden Prompts, Uploads und Ausgaben gespeichert?
• Wo werden die Daten verarbeitet und welche Sub-Auftragsverarbeiter sind beteiligt?
• Welche Administratoren und Dienstleister können auf die Daten zugreifen?
• Welche Lösch-, Export- und Kontrollmöglichkeiten bietet der Anbieter?
   

Diese Angaben sollten dokumentiert und regelmäßig überprüft werden, da sich Produktfunktionen, Verträge und Modellversionen ändern können.

Beim Zugriff auf interne Dokumente gilt das Prinzip der geringsten Berechtigung. Rollenbasierte Zugriffskontrollen (RBAC) sollten sicherstellen, dass ein KI-System nur auf die Inhalte zugreift, die für den jeweiligen Anwendungsfall und die jeweilige Person freigegeben sind.

API-Anfragen, Datei-Uploads und administrative Änderungen können protokolliert werden. Ein entsprechendes Monitoring hilft, ungewöhnliche Datenmengen, neue Endpunkte oder wiederholte Zugriffe auf besonders geschützte Dokumente zu erkennen. So lassen sich potenzielle Datenabflüsse schneller untersuchen.
 

Eine sichere Architektur verbindet mehrere Schutzebenen. Für die Übertragung und Speicherung von Prompts, Dokumenten, Vektordatenbanken und Modellausgaben sollten angemessene Verschlüsselungsverfahren eingesetzt werden. Welche Verfahren geeignet sind, hängt von Schutzbedarf, Infrastruktur und Anbieter ab.

Das Identity and Access Management (IAM) sollte mit dem zentralen Verzeichnisdienst des Unternehmens verbunden werden. Single Sign-on (SSO), Multi-Faktor-Authentifizierung (MFA), rollenbasierte Berechtigungen und regelmäßige Rezertifizierungen reduzieren das Risiko veralteter oder unkontrollierter Zugänge.

Private Endpunkte, Netzwerksegmentierung und geschützte Direktverbindungen können die Kommunikationswege zwischen internen Systemen und KI-Diensten begrenzen. Bei einer Retrieval-Augmented-Generation-Architektur (RAG) sollte zusätzlich geprüft werden, ob die Dokumentensuche dieselben Berechtigungen wie das Quellsystem durchsetzt. Andernfalls könnte ein KI-Assistent Informationen ausgeben, auf die die anfragende Person im Originalsystem keinen Zugriff hätte.

Schulungen müssen konkrete Situationen abdecken: Welche Daten dürfen in welchem Tool verarbeitet werden? Wie lassen sich manipulierte Anweisungen erkennen? Wann muss eine KI-Ausgabe fachlich geprüft werden? Und an wen wird ein vermuteter Datenabfluss gemeldet?

Wie sich KI-Tools und Schatten-KI direkt auf Endgeräten überwachen lassen, erfahren Sie in unserem Beitrag zu Mobile Device Management und KI-Governance.

Ein umsetzbarer Einstieg lässt sich in fünf Schritte gliedern:

1. Bestandsaufnahme: KI-Anwendungen, API-Nutzung, Datenflüsse und Shadow-AI-Szenarien erfassen.
2. Use-Case-Bewertung: Geschäftsnutzen, Datenklassen, rechtliche Anforderungen und Risikoprofil je Anwendungsfall dokumentieren.
3. Sichere Pilotierung: Einen begrenzten Use Case mit synthetischen oder kontrolliert klassifizierten Testdaten umsetzen.
4. Schulung und Rollout: KI-Richtlinie, Rollen, Freigabeprozess und Meldewege im Unternehmen verankern.
5. Auditierung: Zugriffsrechte, Anbieterbedingungen, Modellversionen, API-Nutzung und Sicherheitsereignisse regelmäßig prüfen.

Generative KI sicher einzusetzen, erfordert mehr als eine einzelne interne Richtlinie. Unternehmen müssen Verantwortlichkeiten, Freigabeprozesse, Datenklassifizierung, Anbieterprüfung und technische Schutzmaßnahmen aufeinander abstimmen. Der EU AI Act bildet dabei einen wichtigen regulatorischen Bezugspunkt. DSGVO, GeschGehG und Anforderungen an die Informationssicherheit ergänzen den Rahmen für die Verarbeitung vertraulicher Daten.

audius unterstützt Unternehmen bei der Bestandsaufnahme ihrer KI-Nutzung, der Entwicklung einer passenden KI-Richtlinie und der Bewertung konkreter Anwendungsfälle. Gemeinsam lassen sich Anforderungen an Anbieter, Datenflüsse, Zugriffsrechte und Betriebsmodelle strukturiert prüfen. Je nach Bedarf kann audius außerdem bei geschützten Enterprise- und Hybrid-Architekturen, Identity and Access Management, Netzwerkabsicherung, Monitoring und dem sicheren Betrieb unterstützen.

So entsteht ein nachvollziehbarer Handlungsrahmen für den produktiven Einsatz generativer KI. Welche Maßnahmen im Einzelfall erforderlich und rechtlich angemessen sind, hängt vom jeweiligen Unternehmen, Anwendungsfall und Anbieter ab. Dieser Beitrag bietet daher eine fachliche Orientierung und ersetzt keine Rechtsberatung.