Dr. Frank Schemmel

Lessons learned: Vom Datenschutz- Management-System zum AI-Management-System

KI als kontrollierten Prozess im Unternehmen nutzbar machen

Mit Inkrafttreten der KI-Verordnung (VO [EU] 2024/1689) steht die Compliance-Praxis vor einer neuen Aufgabe: dem Aufbau eines AI-Management-Systems (AIMS). Wer heute bereits ein Datenschutz-Management-System (DMS) betreibt, muss dabei nicht bei null beginnen. KI-VO und DSGVO teilen denselben risikobasierten Regulierungsansatz; die Grundelemente eines funktionsfähigen DMS lassen sich systematisch auf das AIMS übertragen. Unter Einbeziehung der ISO-Normen 27001, 27701, 23894 und 42001 sowie des IDW PS 861 lassen sich DMS und AIMS verzahnen und erhebliche Synergieeffekte heben – dieser Beitrag zeigt wie.

I. Die neue Compliance-Aufgabe

Nahezu 90 % aller Unternehmen setzen inzwischen KI-Systeme ein; gleichzeitig arbeiten noch rund 77 % der Unternehmen aktiv an der Implementierung einer AI Governance.1 Die Europäische Kommission hat mit der KI-Verordnung (VO [EU] 2024/1689, nachfolgend KI-VO)2 – am 1. 8. 2024 in Kraft getreten und mit gestaffelten Umsetzungsfristen versehen – erstmals einen umfassenden horizontalen Rechtsrahmen für die Entwicklung, Bereitstellung und Nutzung von KI geschaffen. Die zentralen Betreiberpflichten nach Art. 26 KI-VO stellen Unternehmen vor erhebliche organisatorische Herausforderungen. Dabei geht die KI-VO über bestehende Regulierungsinstrumente wie die DSGVO und das Produktsicherheitsrecht hinaus und markiert einen Paradigmenwechsel: KI wird nicht länger als bloßes technisches Werkzeug verstanden, sondern als sozio-technisches System, das spezifische Governance- und Compliance-Strukturen erfordert.3

Für Compliance-Verantwortliche stellt sich angesichts dieser Anforderungen die entscheidende praktische Frage: Wie baut man ein AIMS auf – und muss dabei wirklich bei null begonnen werden? Die Antwort lautet klar: nein. Wer bereits ein DMS betreibt, verfügt über strukturelle, prozessuale und kulturelle Grundlagen, die unmittelbar für ein AIMS nutzbar sind. Denn KI-VO und DSGVO teilen denselben regulatorischen Grundansatz; und die relevanten Normenwerke – insbesondere ISO/IEC 27001, 27701, 23894 und 42001 sowie IDW PS 861 – sind bewusst kompatibel konzipiert. Darüber hinaus weist das KI-VO-Risikomanagementregime, strukturell aber auch inhaltlich, erhebliche Parallelen zur DSGVO-Datenschutz-Folgenabschätzung und zur DSGVO-Rechenschaftspflicht auf.

Dieser Beitrag analysiert die strukturellen Gemeinsamkeiten von DSGVO und KI-VO, zeigt, welche DMS-Bausteine unmittelbar im AIMS einsetzbar sind, und entwickelt einen praxistauglichen Umsetzungsfahrplan unter Einbeziehung des relevanten Normenrahmens. Die Kernaussage: Wer heute ein funktionsfähiges DMS betreibt, hat bereits wesentliche Vorarbeit für sein AIMS geleistet – er muss es nur erkennen und systematisch nutzen.

II. DSGVO und KI-VO: Strukturelle Konvergenz zweier Regelwerke

1. Der risikobasierte Ansatz als gemeinsamer Nenner

Sowohl DSGVO als auch KI-VO folgen einem risikobasierten Regulierungsansatz, der auf Verhältnismäßigkeit und kontextuelle Risikoabwägung setzt, statt auf starre Checklisten. Die DSGVO verpflichtet Verantwortliche, personenbezogene Daten unter Berücksichtigung von Risiken für die Rechte und Freiheiten natürlicher Personen zu verarbeiten und angemessene technisch-organisatorische Maßnahmen zu treffen (Art. 24, 32 DSGVO). Die KI-VO staffelt die Anforderungen nach dem Risikopotenzial des jeweiligen KI-Systems: von verbotenen KI-Praktiken (Art. 5 KI-VO) über Hochrisiko-KI-Systeme mit umfangreichen Governance-, Dokumentations- und Überwachungspflichten bis hin zu KI-Systemen mit minimalem Risiko, für die lediglich die Sicherstellung von KI-Kompetenz (Art. 4 KI-VO) gefordert ist.

Beide Verordnungen verlangen darüber hinaus keine einmalige Compliance-Prüfung, sondern setzen auf kontinuierliche Risikobewertung und -behandlung. Das Risikomanagementsystem nach Art. 9 Abs. 2 KI-VO ist ausdrücklich als fortlaufender, iterativer Prozess über den gesamten Lebenszyklus des KI-Systems ausgestaltet.4 Diese Dynamisierung entspricht der DSGVO-Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO, die Verantwortliche dazu anhält, Compliance nicht nur herzustellen, sondern dauerhaft nachzuweisen.5 Beide Regelwerke adressieren zudem Grundrechtsrisiken: Während die DSGVO Risiken für die Grundrechte und Grundfreiheiten natürlicher Personen bei der Datenverarbeitung in den Blick nimmt, fokussiert die KI-VO auf Risiken für Gesundheit, Sicherheit und Grundrechte der von KI-Systemen betroffenen Personen.6

2. Parallele Rechtsinstitute

Die strukturellen Gemeinsamkeiten beschränken sich nicht auf den risikobasierten Ansatz; sie spiegeln sich in nahezu allen zentralen Regelungsinstituten beider Verordnungen. Die normative Verknüpfung beider Verordnungen ist dabei rechtlich vorgegeben: Art. 2 Abs. 7 KI-VO stellt klar, dass die DSGVO auf personenbezogene Daten, die im Zusammenhang mit dem Betrieb von KI-Systemen verarbeitet werden, weiter Anwendung findet. Da moderne KI-Systeme nahezu immer personenbezogene Daten verarbeiten, ist DSGVO-Compliance faktisch zur Voraussetzung für KI-VO-Compliance geworden.7 Zudem verpflichtet Art. 26 Abs. 8 KI-VO Betreiber von Hochrisiko-KI-Systemen, Informationen nach Art. 13 KI-VO zur Erfüllung ihrer DSGVO-DSFA-Pflichten heranzuziehen. Eine integrierte Compliance-Strategie ist mithin nicht nur praktisch sinnvoll, sondern vom Gesetzgeber selbst angelegt.

III. Vom CMS über das DMS zum AIMS: Bausteine ohne Neuerfindung

1. Die Grundelemente des IDW PS 980 als universeller Rahmen

Der IDW PS 980 n. F. (Grundsätze ordnungsmäßiger Prüfung von Compliance-Management-Systemen, Stand: 09/2022) hat sich als anerkannter Maßstab für die Beurteilung von Compliance-Management-Systemen etabliert.8 Er definiert sieben miteinander in Wechselwirkung stehende Grundelemente: (1) Compliance-Kultur, (2) Compliance-Ziele, (3) Compliance-Risiken, (4) Compliance-Programm, (5) Compliance-Organisation, (6) Compliance-Kommunikation sowie (7) Compliance-Überwachung und -Verbesserung.9 Diese Grundelemente sind regulierungsbereichsagnostisch; sie gelten für ein Kartellrechts-CMS ebenso wie für ein DMS – und können unmittelbar für ein AIMS fruchtbar gemacht werden.

Die KI-VO-Betreiberpflichten lassen sich diesen Grundelementen systematisch zuordnen und damit bruchfrei in bestehende Compliance-Prozesse einbinden.10 Dies erspart Unternehmen den Aufbau von Parallelstrukturen und sichert die effiziente Umsetzung:11

• Compliance-Kultur: Verankerung einer KI-Ethik im Unternehmen; Leitlinien für verantwortungsvollen KI-Einsatz entsprechend den sieben Grundsätzen vertrauenswürdiger KI (ErwG 27 KI-VO).
• Compliance-Risiken: Systematische Inventarisierung, Klassifizierung und Risikoanalyse aller eingesetzten KI-Systeme (Art. 6, 9 KI-VO).
• Compliance-Programm: Technische und organisatorische Maßnahmen zur typengerechten KI-Nutzung (Art. 26 Abs. 1 KI-VO); KI-Richtlinie (AI Policy) mit Acceptable-Use-Vorgaben.
• Compliance-Organisation: Sicherstellung von KI-Kompetenz (Art. 4 KI-VO); Benennung einer geschulten Aufsichtsperson (Art. 26 Abs. 2 KI-VO); gegebenenfalls AI Officer.
• Compliance-Kommunikation: Information der Arbeitnehmervertreter und betroffenen Mitarbeitenden (Art. 26 Abs. 7 KI-VO); externe Transparenzpflichten (Art. 50 KI-VO).
• Compliance-Überwachung und -Verbesserung: Laufende Betriebsüberwachung (Art. 26 Abs. 5 KI-VO); Aufbewahrung automatisch erzeugter Protokolle für mindestens sechs Monate (Art. 26 Abs. 6 KI-VO); Meldung schwerwiegender Vorfälle (Art. 73 KI-VO).

2. DMS-Strukturen für das AIMS nutzen

Die Erfahrungen beim DMS-Aufbau sind für das AIMS unmittelbar verwertbar: die Methodik der Risikoanalyse, der Umgang mit technisch-organisatorischen Maßnahmen, die Schulungsinfrastruktur, die Dokumentations- und Nachweispraxis sowie – besonders wertvoll – die Compliance-Kultur im Umgang mit regulatorischen Anforderungen. Eine der wichtigsten „lessons learned“ aus dem DMS-Aufbau lautet: Compliance ist kein Projekt, sondern ein dauerhafter Prozess. Diese Erkenntnis ist für das AIMS gleichermaßen gültig.

Art. 9 Abs. 10 KI-VO schreibt ausdrücklich vor, dass das Risikomanagementsystem für KI-Systeme Bestandteil bestehender Risikomanagementprozesse sein und mit bestehenden Verfahren kombiniert werden kann.12 Der Gesetzgeber selbst möchte also Integration statt Parallelaufbau. Folgende DMS-Bausteine sind im AIMS direkt nutzbar:

• KI-System-Inventar aus dem Verzeichnis der Verarbeitungstätigkeiten: Das Verzeichnis nach Art. 30 DSGVO kann um KI-spezifische Attribute erweitert werden – Risikoklasse nach KI-VO, Unternehmensrolle (Anbieter/Betreiber), Zweckbestimmung, Betriebsanleitung des Anbieters. Ergänzend können vorhandene IT-Infrastrukturen wie Configuration Management Databases (CMDB) für die KI-System-Inventarisierung genutzt werden.13
• DSFA-Methodik für KI-Risikoanalysen: Prozesse und Methodik der DSFA (Art. 35 DSGVO) lassen sich auf die KI-Risikoabschätzung nach Art. 9 KI-VO und die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO übertragen. Beide Instrumente verlangen systematische Risikoidentifikation und -bewertung sowie die Definition von Abhilfemaßnahmen.
• Schulungsinfrastruktur: Bestehende Datenschutzschulungsprogramme können um KI-spezifische Module ergänzt werden. Inhalt und Format (E-Learning, Workshops, zielgruppenspezifische Vertiefung) können übernommen und lediglich inhaltlich auf KI-Risiken, KI-Ethik und die Anforderungen der KI-VO ausgerichtet werden.
• Melde- und Eskalationsprozesse: Die für Datenschutzverletzungen nach Art. 33, 34 DSGVO eingerichteten Vorfallsmeldeverfahren liefern das Prozessmodell für die Meldung schwerwiegender Vorfälle bei KI-Systemen nach Art. 73 KI-VO. Grundstruktur, Eskalationspfade und Verantwortlichkeiten sind weitgehend übertragbar.
• Lieferanten- und Auftragsverarbeitermanagement: Die DSGVO-Praxis bei der Auswahl, Kontrolle und vertraglichen Bindung von Auftragsverarbeitern (Art. 28 DSGVO) liefert das Prozessmodell für das KI-spezifische Anbieter-Management, insbesondere für die Absicherung, dass Anbieter keine Unternehmensdaten für das Training eigener KI-Modelle verwenden.

IV. Der normative Werkzeugkasten: ISO-Standards und IDW PS 861

1. Die mehrschichtige ISO-Architektur

Besonders förderlich für den integrierten Aufbau eines AIMS ist, dass die relevanten ISO-Normen eine aufeinander aufbauende, kohärente Gesamtarchitektur bilden. Alle modernen ISO-Managementsystemnormen folgen der sogenannten High-Level Structure (HLS), die einheitliche Kapitelstrukturen, gemeinsame Kernbegriffe und einen geteilten Plan-Do-Check-Act(PDCA)-Zyklus vorgibt.14 Diese strukturelle Konsistenz bedeutet: Wer eine Norm implementiert, schafft Infrastruktur, die für alle anderen Normen unmittelbar nutzbar ist – Governance-Strukturen, Risikomethodiken und Verbesserungsprozesse transferieren über alle Normen hinweg, was Implementierungsaufwand und Redundanzen deutlich reduziert.15

a) ISO/IEC 27001 als Fundament

ISO/IEC 27001:2022 (Informationssicherheits-Managementsystem, ISMS) bildet das Fundament dieser Normenarchitektur. Das ISMS geht über reine Cybersicherheit hinaus und etabliert eine umfassende Informationsgovernance.16 Aus Compliance-Perspektive ist besonders der Risikoassessment-Prozess nach Ziffer 6.1.2 ISO/IEC 27001 wertvoll: Er operationalisiert den risikobasierten Ansatz der DSGVO (Art. 24, 32 DSGVO) und liefert gleichzeitig die methodische Grundlage für das KI-Risikomanagementsystem nach Art. 9 KI-VO.17 Der in ISO/IEC 27001 verankerte PDCA-Zyklus gewährleistet, dass Risikobewertungen iterativ und nicht statisch erfolgen – eine Anforderung, die für KI-Systeme aufgrund ihrer Dynamik und lernenden Eigenschaften kritisch ist.18

Wer bereits über eine ISO/IEC 27001-Zertifizierung verfügt, hat schätzungsweise 60–70 % der für eine ISO/IEC 42001-Zertifizierung relevanten Kontrollinfrastruktur bereits aufgebaut.19 Diese Schätzung ist mit Vorsicht zu genießen, da die inhaltliche Verknüpfung von ISMS und AIMS aktive Brückenarbeit erfordert und die Schnittstelle zwischen beiden Systemen in den ISO-Normen selbst formal nicht definiert ist.20 Sie spiegelt aber die substanzielle strukturelle Überlappung wider: Zugriffskontrollen, Kryptographie, Vorfallsmanagement und Lieferantenkontrollen aus ISO/IEC 27001 sind für KI-Systeme unmittelbar anwendbar.

b) ISO/IEC 27701 als DSGVO-Brücke

ISO/IEC 27701:2019 (Privacy Information Management System, PIMS) erweitert das ISMS um datenschutzspezifische Governance-Elemente. Der Standard enthält in Anhang D eine direkte Zuordnung seiner Anforderungen zu den DSGVO-Verpflichtungen und adressiert explizit die Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO), den Datenschutz durch Technikgestaltung (Art. 25 DSGVO), das Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO), Meldepflichten (Art. 33, 34 DSGVO) sowie die DSFA (Art. 35 DSGVO).21

Für das AIMS ist ISO/IEC 27701 besonders relevant, weil sie in Ziffer 7.3.10 Kontrollen zu automatisierten Entscheidungsprozessen enthält, die mit Art. 22 DSGVO und den KI-VO-Anforderungen zur menschlichen Aufsicht (Art. 14 KI-VO) korrespondieren. Die Integration von ISO/IEC 27701 in das ISMS ermöglicht es, Datenschutz-Governance innerhalb der bestehenden Sicherheitsmanagementsystem-Infrastruktur zu adressieren – statt Parallelsysteme zu unterhalten.22

c) ISO/IEC 23894 und 42001 als KI-spezifische Aufbauten

ISO/IEC 23894:2023 (AI Risk Management Guidance) liefert den methodischen Rahmen für das KI-spezifische Risikomanagement. Der Standard orientiert sich an ISO 31000 (Risikomanagement) und überträgt dessen Prinzipien auf KI-Kontexte.23 Er empfiehlt ein lebenszyklusbasiertes Risikomanagement – von der Konzeption über den Einsatz bis zur Außerbetriebnahme –, das unmittelbar den Anforderungen des Art. 9 Abs. 2 KI-VO entspricht.24 Als Leitlinien-Norm (nicht zertifizierbar) ergänzt ISO/IEC 23894 die nachfolgend beschriebene ISO/IEC 42001 um konkrete KI-spezifische Risikotaxonomien und Bewertungsmethodik, ohne selbst eine Konformitätsvermutung auszulösen.

ISO/IEC 42001:2023 (AI Management System) ist die erste zertifizierbare internationale Norm für ein KI-Managementsystem.25 Sie folgt derselben HLS wie ISO/IEC 27001 und 27701 und ermöglicht damit die direkte Integration der KI-Governance in bestehende Managementsysteme.26 Aus regulatorischer Perspektive deckt ISO/IEC 42001 die wesentlichen Anforderungen der KI-VO ab: das Risikomanagementsystem (Art. 9 KI-VO), das Qualitätsmanagementsystem (Art. 17 KI-VO), das Post-Market-Monitoring (Art. 72 KI-VO), die technische Dokumentation (Art. 11 KI-VO) sowie die menschliche Aufsicht (Art. 14 KI-VO).27

Verkürzt lässt sich das Verhältnis von KI-VO und ISO/IEC 42001 auf folgende Formel bringen: Die KI-VO definiert, was erreicht werden muss – ISO/IEC 42001 beschreibt, wie ein KI-Governance-Programm zu betreiben, nachzuweisen und kontinuierlich zu verbessern ist.28

ISO/IEC 42001 ersetzt nicht die spezifischen Pflichten der KI-VO, kann aber als praktische Umsetzungshilfe dienen. Sofern harmonisierte europäische Normen auf Basis von ISO/IEC 42001 formal anerkannt werden, kann die Norm zudem eine Konformitätsvermutung nach Art. 40 KI-VO begründen. Unternehmen sollten daher die Normierungsarbeiten von CEN und CENELEC fortlaufend beobachten.

2. IDW PS 861 für die integrierte Prüfungspraxis

Den normativen Werkzeugkasten schließt der IDW PS 861 (Prüfung von KI-Systemen, Stand: 03. 2023) ab. Er wurde veröffentlicht, um der zunehmenden Bedeutung von KI in Unternehmen Rechnung zu tragen, und stellt – ebenso wie IDW PS 980 – die Systemprüfung in den Vordergrund.29 Nach IDW PS 861 umfasst ein KI-System fünf prüfungsrelevante Elemente: (1) KI-Governance/KI-Compliance/KI-Monitoring, (2) Daten, (3) KI-Algorithmus/KI-Modell, (4) KI-Anwendung sowie (5) IT-Infrastruktur.30 Geeignete Prüfungskriterien erfüllen mindestens folgende, miteinander in Wechselwirkung stehende Anforderungen an das KI-System: ethische und rechtliche Anforderungen für KI, Nachvollziehbarkeit, IT-Sicherheit und Leistungsfähigkeit.31

V. AIMS in der Praxis: Integration, Synergien und Governance

1. Konkrete Synergiepotenziale

Die Synergieeffekte zwischen DMS und AIMS sind erheblich, müssen aber aktiv gehoben werden. Ausgangspunkt ist eine strukturierte Gap-Analyse: Bestehende DMS-Strukturen werden systematisch auf ihre AIMS-Verwertbarkeit hin geprüft; gleichzeitig werden alle im Unternehmen eingesetzten KI-Systeme inventarisiert und nach dem Risikostufensystem der KI-VO klassifiziert.32

Unternehmen, die die Risikoklassifizierung ihrer KI-Systeme vornehmen, stellen dabei regelmäßig fest, dass es sich nur bei 5–10 % aller Anwendungsfälle um Hochrisiko-KI handelt.33 Unabhängig von der Risikoklasse gilt jedoch stets die Pflicht zur Sicherstellung von KI-Kompetenz nach Art. 4 KI-VO sowie die Pflicht zur Etablierung eines Prozesses zur Risikoklassifizierung, der zugleich die Grundlage für ein auditierbares KI-System-Inventar bildet.34 Letzteres korrespondiert unmittelbar mit dem Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO; eine Erweiterung dieses Verzeichnisses um KI-spezifische Attribute ist der einfachste und ressourcenschonendste Weg zum KI-System-Inventar.35

Bestehende DSGVO-Infrastrukturen – insbesondere das Verzeichnis der Verarbeitungstätigkeiten und vorhandene IT-Asset-Datenbanken – können durch Ergänzung KI-spezifischer Attribute (Risikoklasse, Unternehmensrolle, Zweckbestimmung, Betriebsanleitung) in ein KI-System-Inventar transformiert werden. Eine vollständige Neuentwicklung ist regelmäßig also nicht erforderlich.

2. Praxisorientierter Umsetzungsfahrplan

Ausgehend von den vorstehenden Überlegungen lässt sich ein strukturierter Umsetzungsfahrplan für den AIMS-Aufbau skizzieren:

Schritt 1 – Bestandsaufnahme: Inventarisierung aller im Unternehmen eingesetzten KI-Systeme und Klassifizierung nach dem Risikostufensystem der KI-VO. Prüfung, ob das Unternehmen als Betreiber (Art. 3 Nr. 4 KI-VO) oder – im Falle eigener Entwicklungen, wesentlicher Modifikationen oder einer Zweckänderung nach Art. 25 Abs. 1 KI-VO – als Anbieter (Art. 3 Nr. 3 KI-VO) gilt. Nutzung vorhandener DSGVO-Dokumentation als Ausgangsbasis.

Schritt 2 – Gap-Analyse: Systematische Gegenüberstellung der KI-VO-Anforderungen (Soll-Zustand) mit dem bestehenden CMS/DMS (Ist-Zustand). Identifikation von Strukturen, die direkt übernommen, angepasst oder neu entwickelt werden müssen.

Schritt 3 – AI Policy entwickeln: Eine unternehmensweite KI-Richtlinie (AI Policy) bildet das Herzstück des AIMS. Sie definiert Anwendungsbereich, zulässige und unzulässige KI-Nutzungen, Verantwortlichkeiten, Einsatzbedingungen und Meldepflichten. Als praxistaugliches Dokument sollte sie schlank und prozessgetrieben gestaltet sein und die Beurteilung des rechtskonformen Einsatzes nicht auf den einzelnen Mitarbeitenden abwälzen.36

Schritt 4 – Integration in bestehende Managementsysteme: Soweit eine ISO/IEC 27001- oder ISO/IEC 27701-Zertifizierung besteht, sollte das AIMS auf dieser Infrastruktur aufgebaut werden. ISO/IEC 42001 dient als Implementierungsleitfaden; die gemeinsame HLS ermöglicht eine strukturell konsistente Integration ohne Parallelstrukturen.

Schritt 5 – Prüf- und Auditierbarkeit sicherstellen: Das AIMS muss so dokumentiert sein, dass Compliance-Assurance intern und extern nachgewiesen werden kann. Eine integrierte Prüfung nach IDW PS 980 und IDW PS 861 bietet einen anerkannten methodischen Rahmen.37

VI. Fazit

KI-VO und DSGVO sind regulatorische Geschwister. Beide folgen einem risikobasierten Ansatz, verlangen kontinuierliche Dokumentation und Nachweisführung sowie Transparenz gegenüber Betroffenen. Die normative Verknüpfung beider Verordnungen in Art. 2 Abs. 7 KI-VO unterstreicht, dass eine integrierte Compliance-Strategie regulatorisch angelegt ist. Wer ein funktionsfähiges DMS betreibt, hat die wichtigsten strukturellen Grundlagen für ein AIMS bereits gelegt. Das Rad muss nicht neu erfunden werden.38

---