Prof. Dr. Martin R. Schulz, LL. M. (Yale), und Dr. Maximilian Vonthien, LL. M. (Columbia)

KI-Kompetenzentwicklung als Basis von KI-Compliance – Gestaltungshinweise

Der Vorschlag der EU-Kommission für einen „Digital Omnibus on AI“ vom 29. 11. 2025 sah unter anderem vor, die in Art. 4 der KI-VO geregelte Pflicht von Anbietern und Betreibern von KI-Systemen zur Sicherstellung eines ausreichenden Maßes an KI-Kompetenz auf die Mitgliedsstaaten und die EU-Kommission zu verlagern. Nach der erzielten Einigung von Rat und EU-Parlament bleibt die bisher in Art. 4 KI-VO enthaltene Pflicht zur KI-Kompetenzentwicklung jedoch im Wesentlichen bestehen. Nach einer Einführung zum Stand der KI-Kompetenzentwicklungspflicht (I.) erläutern die Autoren den Zusammenhang zwischen KI-Kompetenzentwicklung und effektiven Compliance-Schulungen (II.) und geben Gestaltungsempfehlungen für die Vermittlung von KI-Kompetenz an Beispielen für zentrale Zielgruppen im Unternehmen (III.) Im Fazit betonen die Autoren die Förderung der KI-Kompetenz als Grundlage für einen rechtskonformen und verantwortungsvollen Einsatz von KI-Systemen (IV.).

I. Einführung

Die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO)1 hat seit dem 2. 2. 2025 einen unionsweit einheitlichen Rechtsrahmen für das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen etabliert. Gemäß Art. 4 KI-VO sind Anbieter und Betreiber von KI-Systemen verpflichtet, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz („AI Literacy“) verfügen. Im Rahmen eines umfangreichen Reformprozesses mit dem Ziel der Vereinfachung und Entbürokratisierung der KI-VO („Vorschlag für eine digitale Omnibus-Verordnung über KI“2) wurde unter anderem vorgeschlagen, die bestehende KI-Kompetenzentwicklungspflicht für Anbieter und Betreiber von KI-Systemen durch eine Verschiebung der Verantwortung auf die EU-Kommission und die Mitgliedstaaten zu ersetzen.3 Unternehmen sollten demnach vor allem durch staatliche Schulungsangebote unterstützt und motiviert werden. Nur für Hochrisiko-KI-Systeme hätte weiterhin die Pflicht bestanden, qualifiziertes Personal mit der menschlichen Aufsicht zu betrauen.4

1. Pflicht zur Unterstützung bei der Entwicklung von KI-Kompetenz

Die Frage, ob Art. 4 KI-VO eine Schulungspflicht enthält, war zunächst umstritten: Während ein Teil der Literatur eine Schulungspflicht bejaht, wurde andererseits lediglich ein „Appellcharakter“ der Vorschrift angenommen.5 Diesem Meinungsstreit hat der EU-Gesetzgeber mit der nun erfolgten Anpassung von Art. 4 KI-VO ein Ende gesetzt: Sowohl Art. 4 Abs. 1, S. 2 KI-VO als auch Art. 4 Abs. 2 KI-VO sprechen jetzt ausdrücklich von einer Pflicht („obligation“) der Anbieter und Betreiber von KI-Systemen, ihr Personal bei der Entwicklung von KI-Kompetenz zu unterstützen.6 Aber auch unter Geltung der alten Fassung sprach gegen den bloßen Appellcharakter von Art. 4 KI-VO bereits der Wortlaut der Norm, der in der bisherigen (wie auch in der neuen) Fassung ein aktives „Ergreifen von Maßnahmen“ („take measures“) fordert(e) und damit eine verbindliche Handlungsanweisung formuliert(e).7 Zwar werden Schulungen in Art. 4 KI-VO nicht explizit genannt, Wissens- und Kompetenzaufbau im Unternehmen wird jedoch stets maßgeblich durch Schulungen vermittelt.8 Für die Annahme einer verbindlichen KI-Kompetenzentwicklungspflicht spricht zudem die Aussage der EU-Kommission in ihren offiziellen FAQs vom 7. 5. 2025, wonach Art. 4 KI-VO eine „konkrete Handlungspflicht“ („obligation to take measures“) dahingehend begründet, dass Unternehmen sämtliche zumutbaren und erforderlichen Schritte zur Herstellung von KI-Kompetenz ergreifen sollen und symbolische Maßnahmen oder reine Absichtserklärungen nicht ausreichen.9 Wenngleich diese FAQ unter Geltung der alten Fassung von Art. 4 KI-VO ergangen sind, dürften die Aussagen auch mit Blick auf die Änderung der Vorschrift noch im Wesentlichen Geltung beanspruchen.

Ergänzend kommt hinzu, dass die Pflicht zur KI-Kompetenzentwicklung und zur Durchführung damit verbundener Schulungen unabhängig von Art. 4 KI-VO bereits aus der Compliance-Pflicht sowie aus den zu § 130 OWiG entwickelten Konkretisierungen der Aufsichtspflicht folgt.10

Damit bleibt auch nach der geänderten Fassung von Art. 4 Abs. 1 KI-VO die Pflicht von Anbietern und Betreibern erhalten, dafür zu sorgen, dass Personen, die in ihrem Auftrag KI-Systeme einsetzen, über KI-Kompetenz verfügen. Sie sind dazu verpflichtet, die Entwicklung von KI-Kompetenz zu unterstützen. Art. 4 Abs. 2 und 3 KI-VO regeln zusätzlich Unterstützungsleistungen der Mitgliedstaaten, der EU-Kommission und des KI-Gremiums bei der Erfüllung der Pflicht von Anbietern und Betreibern gemäß Art. 4 Abs. 1 KI-VO. Art. 4 KI-VO gilt nach wie vor für alle KI-Systeme, gleich ob es sich dabei um alltägliche KI-Chatbots oder um komplexe KI-gestützte Sicherheitsbauteile eines den Harmonisierungsvorschriften gemäß Anhang I der KI-VO unterfallenden Produkts handelt.

2. KI-Kompetenz – Mehrdimensionales Verständnis

Unverändert bleibt auch Art. 3 Nr. 56 KI-VO, der KI-Kompetenz definiert als „die Fähigkeiten, die Kenntnisse und das Verständnis“, die es ermöglichen, KI sachkundig einzusetzen und sich der damit verbundenen Risiken, Chancen und möglicher Schäden bewusst zu sein. Nach dieser weiten Definition geht es um ein grundlegendes Verständnis der Funktionsweise von KI-Systemen sowie ein Bewusstsein für die damit verbundenen Chancen und Risiken.11 KI-Kompetenz ist die Grundlage, um KI-Systeme in der Praxis sicher, verantwortungsvoll und rechtskonform einzusetzen.12 Sie umfasst ein technisches Grundverständnis der Funktionsweise von KI-Systemen, das Bewusstsein für die Grenzen der Einsatzmöglichkeiten sowie für die Möglichkeit diverser Fehler bei der Ergebnisausgabe, wie bspw. sogenannte Halluzinationen, und bestimmte rechtliche Kenntnisse. Dazu gehören etwa verbotene KI-Praktiken, Hochrisiko-KI-Systeme und grundlegende Pflichten und Haftungsrisiken nach der KI-VO, einschließlich datenschutzrechtlichen und urheberrechtlichen Anforderungen.13 Darüber hinaus umfasst KI-Kompetenz auch ein ethisches Grundverständnis insbesondere in Bezug auf die Vermeidung diskriminierender Auswirkungen des KI-Einsatzes oder die Erkennbarkeit manipulativer KI-generierter Inhalte.14 Die KI-Kompetenz erfasst zudem die Fähigkeit, KI-Ergebnissen nicht blind zu vertrauen, sondern sie im jeweiligen Kontext kritisch zu prüfen und bei Bedarf menschliche Expertise hinzuzuziehen.15

3. KI-Kompetenz in Bezug auf Kontext, KI-Einsatzzwecke und verbundenen Risiken

Es gibt dabei kein einheitliches, allgemeingültiges Maß an „KI-Kompetenz“. Dies stellt nunmehr auch die geänderte Fassung von Art. 4 Abs. 1 KI-VO klar, wonach Anbieter und Betreiber von KI-Systemen nicht ein bestimmtes Level an KI-Kompetenz bei ihrem Personal sicherstellen müssen. Dies ist auch folgerichtig, da die erforderliche KI-Kompetenz stets vom Kontext des konkreten KI-Einsatzes abhängt und in Wechselwirkung mit dem Zweck des KI-Einsatzes steht, dem bereits bei der betroffenen Person vorhandenen Wissen über KI-Systeme sowie mit der Aufgabe und Funktion, welche die mit KI-Systemen arbeitende Person im Unternehmen innehat.16 Es gibt damit nicht „die eine KI-Kompetenz“. Welches Wissen und welche Erfahrung für einen rechtssicheren Einsatz von KI-Systemen erforderlich sind, ist vielmehr stets unter Berücksichtigung der Umstände des Einzelfalles und insbesondere der jeweiligen Einsatzzwecke der KI-Systeme und den damit verbundenen Risiken zu bewerten. Dies ist auch bei der Entwicklung von KI-Schulungen und weiterer Maßnahmen zur KI-Kompetenzentwicklung zu berücksichtigen.17

II. KI-Kompetenzentwicklung und Compliance-Schulungen

Hinsichtlich der Frage, wie Anbieter und Betreiber ihre Pflicht zur Unterstützung der KI-Kompetenzentwicklung erfüllen können, bietet sich eine Orientierung an Compliance-Schulungen an, die viele Unternehmen bereits im Rahmen vorhandener Compliance-Management-Systeme (CMS) etabliert haben.18 Für die Konzeption und Durchführung von Schulungen zur KI-Kompetenzentwicklung sollten Erfahrungen und Empfehlungen zu Compliance-Schulungen ebenso berücksichtigt werden, wie besondere Orientierungshilfen zur KI-Kompetenzentwicklung. Zu ersteren zählen insbesondere die zielgruppenspezifische Konzeption der Schulungen19, die Einbeziehung abwechslungsreicher Trainingsformate (Präsenzschulungen, Webinare, E-Learnings etc.) und interaktiver Elemente (z. B. Grafiken, Cartoons, sog. „Voice-Overs“) sowie die Aufnahme dokumentierter Lernkontrollen, (z. B. durch Tests und Quizfragen).20 Zu letzteren zählen etwa das „Living Repository of AI Literacy Practices“ sowie die „Questions & Answers on AI Literacy“, aus denen sich hilfreiche Anhaltspunkte für das Verständnis von „AI Literacy“ und darauf bezogene Kompetenzentwicklungsmaßnahmen ergeben.21

1. KI-Schulungen zur Vermeidung von „Non-Compliance“ bei Einsatz von KI-Systemen

Aufgrund der Vielfalt und Komplexität rechtlicher Anforderungen für Unternehmen und ihre Leitungsorgane spielen Compliance-Schulungen bei Aufbau und Weiterentwicklung von CMS eine wichtige Rolle.22 „Non-Compliance“ resultiert nicht nur aus vorsätzlichen Regelverletzungen, sondern ist nicht selten auf fahrlässiges Verhalten zurückzuführen,23 weil die Regelungsadressaten die maßgeblichen normativen Vorgaben nicht kennen oder nicht richtig einschätzen.24 Adressatengerechte und praxisbezogene Schulungen bieten insofern eine große Chance, den Teilnehmern sowohl den Inhalt und Anwendungsbezug der relevanten Regelungen zu vermitteln als auch ein Verständnis für Sinn und Zweck von Compliance im Unternehmen zu fördern.25 Compliance-Schulungen gehören daher zu den typischen Maßnahmen, welche die Leitungsorgane in Erfüllung ihrer Compliance-Pflicht organisieren und kontrollieren müssen, um die vielfältigen Nachteile und Risiken von „Non Compliance“ ebenso wie ihre persönlichen Sanktionsrisiken zu vermeiden bzw. bestmöglich zur reduzieren.26 Dasselbe gilt für Schulungen zur Entwicklung und Förderung von KI-Kompetenz. Aufgrund der besonderen technologischen und regulatorischen Dynamik besteht ein besonders hohes Risiko, die tatsächlichen und rechtlichen Gefahren beim Umgang mit KI-Systemen (insbesondere vorschnelle Übernahme KI-erzeugter Ergebnisse und daraus folgende Fehler und Fehlbewertungen) zu unterschätzen bzw. den relevanten Rechtsrahmen nicht (hinreichend) zu beachten.

2. Leitlinien für effektive KI-Schulungen und KI-Kompetenzentwicklung

Unabhängig von etwaigen besonderen gesetzlichen Vorgaben für Schulungen sollten auch bei Schulungen zur Entwicklung der KI-Kompetenz folgende Leitlinien beachtet werden.

a) Abstimmung der Schulungen auf das individuelle KI-Risikoprofil des Unternehmens

Angesichts der dargestellten Bedeutung von Compliance-Schulungen zur Vermeidung bzw. Reduzierung fahrlässiger Regelverstöße ist es aus Sicht der Geschäftsleitung entscheidend, Compliance-Schulungen konsequent an der Compliance-Risiko-Strategie des Unternehmens auszurichten, in der Unternehmensorganisation zu verankern und für eine fortlaufende Aktualisierung der Compliance-Schulungen zu sorgen.27 Die Verknüpfung des Schulungskonzepts mit der Compliance-Risikostrategie des Unternehmens ist der Ausgangspunkt jeder angemessenen Compliance-Organisation28, mit der die Geschäftsleitung die Grundlage für die Identifizierung und Analyse der Compliance-Risiken sowie für adäquate Risikosteuerungsmaßnahmen schafft.29 Entsprechend dem risikobasierten Ansatz der KI-VO sollten Unternehmen ein KI-Risikoprofil erstellen und dabei alle KI-Systeme und deren Risikoeinstufung nach der KI-VO ermitteln.30 Aufgrund des dynamischen rechtlichen Umfelds muss die Compliance-Risikostrategie regelmäßig angepasst werden.31 Dieser Grundsatz gilt insbesondere für die KI-Risikostrategie, da Entwicklung von KI-Systemen und die darauf bezogene Regulatorik durch eine besondere Dynamik charakterisiert sind. Dabei sind sowohl die fortschreitende technische Entwicklung als auch relevante Vorgaben, insbesondere der KI-VO, des Datenschutzrechts sowie des Urheberrechts und des Arbeitsrechts zu beachten.32

b) Commitment der Leitungsorgane und Führungskräfte in Bezug auf KI-Kompetenzentwicklung

Für den Erfolg von Compliance-Schulungen spielt das Commitment der Leitungsorgane und Führungskräfte eine zentrale Rolle.33 In Bezug auf KI-Schulungen sollten Leitungsorgane und Führungskräfte daher – im Einklang mit den Vorgaben der KI-VO – darauf achten, dass den Schulungsadressaten im Rahmen der Schulungsorganisation ein verantwortungsvoller und ethischer Einsatz von KI-Systemen vermittelt wird. Indem sie einen verantwortungsvollen und ethischen Einsatz von KI-Systemen propagieren, kommen Leitungsorgane und Führungskräfte nicht nur den Vorgaben der KI-VO nach, sondern fördern auch den Schulungserfolg. Untersuchungen über die Effektivität des Rechts im Sinne tatsächlicher Normbefolgung haben gezeigt, dass neben der Sanktionsorientierung und der Orientierung an Vorbildern insbesondere die Bejahung der Richtigkeit von Regeln durch die Normadressaten die Regelbefolgung begünstigt.34 Aspekte des verantwortungsvollen und ethischen Einsatzes von KI-Systemen lassen sich am besten in besonderen Schulungsformaten für Leitungsorgane und Führungskräfte adressieren (siehe unter III. 3.).

c) Zielgruppengerechte und abwechslungsreiche Schulungsformate mit Praxisbezug

Entsprechend den Grundsätzen und Erfahrungswerten für die Gestaltung erfolgreicher Compliance-Schulungen sollten auch bei Konzeption und Durchführung von KI-Schulungen die Schulungsadressaten und deren spezifischer Lernbedarf im Fokus stehen. Empfehlenswert ist daher ein modulares Schulungsmodell mit einer KI-Grundlagenschulung für alle Beschäftigte sowie weiteren Schulungsformaten für besondere Zielgruppen.35 Bei allen Schulungsformaten sollten interaktive und abwechslungsreiche Elemente (Quiz- und Kontrollfragen, Checklisten, Cartoons etc.) einbezogen werden.36 Für jede Zielgruppe ist zudem sicherzustellen, dass die Teilnehmer einen praktischen Mehrwert für ihren Arbeitsalltag gewinnen, beispielsweise durch Einbeziehung von konkreten Fragestellungen aus dem Unternehmensalltag.37

d) Regelmäßige und schnelle Aktualisierung der KI-Schulungen

Im Hinblick auf das dynamische rechtliche Umfeld muss die Geschäftsleitung bei Compliance-Schulungen sicherstellen, dass diese regelmäßig aktualisiert und an neue Entwicklungen angepasst werden. Dies gilt insbesondere für Schulungen zur KI-Kompetenzentwicklung, da der Bereich der Künstlichen Intelligenz sowohl in Bezug auf die technologische (Weiter-)Entwicklung als auch in Bezug auf den Rechtsrahmen durch eine besonders hohe Veränderungsdynamik charakterisiert ist.38 Voraussetzung für eine schnelle Aktualisierung der Schulungen ist ein funktionierendes „Legal Monitoring“39, mit dem relevante Änderungen des regulatorischen Umfelds systematisch erfasst und ihre Auswirkungen hinsichtlich etwaiger Anpassungen der Schulungsformate analysiert und umgesetzt werden. Ebenso wie bei anderen Compliance-Schulungen bestätigt die regelmäßige Aktualisierung von KI-Compliance-Schulungen das Compliance-Commitment der Leitungsorgane und Führungskräfte, die sich dadurch für alle sichtbar um die Fortentwicklung von KI-Kompetenz im Unternehmen aktiv kümmern. Regelmäßig aktualisierte und im Bedarfsfall neue (KI-) Compliance-Schulungen dokumentieren, dass es sich um ein „lebendes bzw. lernendes Compliance-System“ handelt, was auch aus Sicht der Gerichte ein wichtiges Kriterium für eine Sanktionsminderung im Falle eines Compliance-Verstoßes sein kann.40

III. KI-Kompetenzentwicklung – Schulungsbeispiele und weitere Gestaltungshinweise

Die KI-VO schafft eine Vielzahl neuer Pflichten für Unternehmen in ihrem Anwendungsbereich, deren Erfüllung die Leitungsorgane im Rahmen ihrer Compliance-Pflicht organisieren und kontrollieren müssen.41 Dabei stellt sich die umfangreiche Aufgabe, die Anforderungen der KI-VO sowie weiterer relevanter Normen (insbesondere des Datenschutz- und Urheberrechts, des Arbeitsrechts sowie des Gesetzes zum Schutz von Geschäftsgeheimnissen) in bestehende CMS zu integrieren.42

Nachfolgend werden einige ausgewählte Beispiele für KI-Schulungen und deren mögliche Inhalte sowie weitere Maßnahmen zur KI-Kompetenzentwicklung skizziert. Dabei empfiehlt sich die Entwicklung eines modularen Trainingsmodells, mit dem sowohl allgemeine Grundlagen als auch besondere Fragestellungen zielgruppenspezifisch vermittelt werden.43

1. KI-Grundlagenschulung für alle Beschäftigten

Im Hinblick auf die weite Verbreitung von KI-Systemen in Unternehmen bietet sich hinsichtlich der Entwicklung und Förderung von KI-Kompetenz zunächst die Entwicklung einer allgemeinen KI-Grundlagenschulung für alle Mitarbeiterinnen und Mitarbeiter an.44 Lernziele sind insbesondere die Herstellung eines Grundverständnisses für Künstliche Intelligenz, typische Einsatzformen im Unternehmen und die Sensibilisierung aller Beschäftigten für die damit verbundenen Risiken.45 Dabei sollte das Phänomen „Künstliche Intelligenz“ verständlich erläutert und ihre technischen Grundlagen skizziert werden. Ohne dabei ins Detail zu gehen, ist es wichtig, dass die Schulungsadressaten eine konkrete Vorstellung von den Chancen und Risiken des Einsatzes von KI-Systemen im Unternehmenskontext erhalten. Hierfür bietet es sich an, konkrete Beispiele von KI-Systemen im Unternehmenseinsatz in die Schulung zu integrieren und diese mit der Risikoklassifikation und dem KI-Rollenmodell anschaulich zu verknüpfen. Wichtig ist – neben dem Hinweis auf verbotene KI-Praktiken und die Besonderheiten sogenannte „Hochrisiko-KI-Systeme“ im Sinne von Art. 6 ff. KI-VO – auch eine Darstellung typischer Gefahren des alltäglichen KI-Einsatzes, wie insbesondere fehlerhafte Informationen und Halluzinationen. Hinzukommen sollte ein kursorischer Überblick über relevante Rechtspflichten und Haftungsrisiken insbesondere nach KI-VO, Datenschutz- und Urheberrecht sowie Arbeits- und Geschäftsgeheimnisschutzrecht. Auch hierbei geht es nicht um juristische Einzelheiten (die in weiterführenden Schulungen, z. B. für die Rechts- und Compliance-Abteilung behandelt werden können), sondern wiederum um die Sensibilisierung dafür, dass sich jeglicher Einsatz von KI-Systemen in einem komplexen Rechtsrahmen bewegt. Ein weiteres Ziel der Grundlagenschulung sollte darin bestehen, dass sich die Teilnehmenden bei Unsicherheiten oder Zweifeln im Umgang mit KI-Systemen im Unternehmensalltag Rat und Hilfestellung bei designierten Unternehmensfunktionen (Rechtsabteilung, Compliance Officer) oder zuständigen Personen (z. B. KI-Beauftragter) holen können. Diese Ansprechstellen sollten in der Grundlagenschulung mit den entsprechenden Kontaktdaten genannt werden. Im Hinblick auf die bezweckte umfassende Reichweite der KI-Grundlagenschulung für alle Beschäftigten ist ein E-Learning-Format zu empfehlen, das dann über eine Lernplattform allen zeit- und ortsunabhängig zur Verfügung gestellt werden kann.

2. KI-Schulung für Rechtsabteilung und Compliance-Funktion

Aufbauend auf einer KI-Grundlagenschulung ist die Konzeption weiterer KI-Schulungsmodule für spezielle Zielgruppen zu empfehlen.46 So sollte eine besondere KI-Schulung für die Rechtsabteilung und Compliance-Funktion auf die Vermittlung vertiefter Kenntnisse relevanter Rechtspflichten, Haftungsrisiken und Risikosteuerungsstrategien zielen, um fundierte rechtliche Expertise für den rechtssicheren und effizienten Umgang mit KI-Systemen bei der Zielgruppe der Inhouse-Juristen und Compliance Officer aufzubauen. Ein Schwerpunkt dieser Schulung sollte die Erläuterung der wesentlichen Regelungsinhalte der KI-VO bilden, mit einem Fokus auf die für Anbieter und Betreiber geltenden Pflichten bei der Entwicklung und Nutzung von (Hochrisiko-)KI-Systemen. Gegenstand der Schulung sollte zudem die Vermittlung eines umfassenden Verständnisses über Haftungsfragen sein, die sich für das Unternehmen aus dem Einsatz von KI-Systemen ergeben können, einschließlich möglicher deliktischer und vertraglicher Haftungsszenarien.

Ein weiterer wesentlicher Bestandteil dieser Schulung ist der Datenschutz sowie der Schutz von Geschäftsgeheimnissen bei Entwicklung, Implementierung und Nutzung von KI-Systemen. Besondere arbeitsrechtliche Aspekte der KI-Nutzung, insbesondere bei Personaleinsatzentscheidungen und arbeitsrechtlichen Kontrollbefugnissen, sollten ebenfalls von der Schulung umfasst sein. Ein Aspekt, der vor allem für Inhouse-Juristen von Bedeutung ist, ist zudem die rechtssichere Gestaltung von Verträgen entlang der gesamten KI-Wertschöpfungskette, von der Entwicklung über die Bereitstellung, bis hin zur Nutzung von KI-Systemen. Neben einer Erläuterung von Regelungen aus der KI-VO, die Anforderungen an die Ausgestaltung bestimmter Verträge stellen (z. B. Art. 25 Abs. 4 KI-VO), sollte die Schulung auch „Best Practices“ für die Gestaltung und den Abschluss von Verträgen vermitteln, wobei der konkrete Inhalt von dem Geschäftsgebiet des Unternehmens und den Vertragspartnern abhängt, mit denen das Unternehmen üblicherweise Verträge abschließt. Dabei sollten insbesondere Fragen der Verantwortungsverteilung, der Haftungsbegrenzung und der Gewährleistung adressiert werden. Die Schulung sollte zudem berufsrechtliche Aspekte, die für Rechtsanwälte und Unternehmensjuristen bei der Beratung zu KI-Themen relevant sein können, behandeln. Ebenso wie bei der KI-Grundlagenschulung ist die Einbeziehung unternehmensbezogener Fallbeispiele und interaktiver Elemente zur Aufbereitung und Vermittlung des Wissens enthalten. Für die Durchführung können die wesentlichen Schulungsinhalte in einem E-Learning abgebildet werden. Dieses sollte dann mit einem personalisierten Training (wie einem Workshop) kombiniert werden, um einen aktiven Wissensaustausch und die Diskussion besonderer Fragen im Unternehmen zu ermöglichen.

3. KI-Schulung für Leitungsorgane und Führungskräfte

Wie oben ausgeführt, spielen Leitungsorgane und Führungskräfte für den Erfolg der (KI-)Compliance eine zentrale Rolle, sie prägen durch ihre Kommunikation und ihr Führungsverhalten die Akzeptanz für das (KI-) Compliance-System im Unternehmen.47 Dementsprechend sollte sich die Schulung zur Entwicklung von KI-Kompetenz für Leitungsorgane und Führungskräfte auf den Aufbau fundierter Kenntnisse zu KI-Governance und KI-Compliance als Teil der strategischen Führungsaufgaben fokussieren.48 Dabei geht es um die Festlegung von Verantwortungsbereichen und die Entwicklung einer KI-Compliance-Strategie zur Sicherstellung, dass alle KI-Systeme rechtskonform und effizient im Unternehmen eingesetzt werden. Dabei werden die Verantwortlichkeiten auf den Führungsebenen sowie die Einbindung relevanter Fachabteilungen in die Compliance-Organisation erörtert. Die Schulung sollte neben Strategien zur Identifikation und Bewertung von KI-Risiken auch die Entwicklung geeigneter Kontrollmechanismen und Meldeverfahren vermitteln. Neben einem umfassenden Überblick über die KI-VO (einschließlich zentraler Regelungen zur KI-Risikoklassifizierung und entsprechenden Konformitätsanforderungen) sollte ein weiterer Schwerpunkt auf den ethischen Aspekten der KI-Nutzung, insbesondere hinsichtlich Transparenz, Fairness und der Vermeidung algorithmischer Diskriminierung sowie auf der Sicherstellung der menschlichen Aufsicht über KI-Systeme und deren Outputs liegen.49 Im Hinblick auf die digitale Transformation vieler Unternehmen sollte die Schulung exemplarische Impulse für Change-Management behandeln, um Leitungsorganen und Führungskräften die nachhaltige Implementierung von KI im Unternehmen zu erleichtern.50 Für die Schulung der Leitungsorgane und Führungskräfte bieten sich insbesondere Workshops (idealerweise in Präsenzform) an, um konkrete Fallbeispiele und Risikoszenarien aus dem Einsatz von KI-Systemen im Unternehmen interaktiv zu erörtern. Das Präsenzformat lässt sich gegebenenfalls vor- bzw. nachbereiten durch ein begleitendes E-Learning zur KI-Risikokategorisierung sowie dem rollenbasierten Pflichten- und Haftungsmodell der KI-VO.

4. Weitere Maßnahmen zur KI-Kompetenzentwicklung

Neben den genannten Beispielen für KI-Schulungen kann die KI-Kompetenzentwicklung im Unternehmen durch weitere Maßnahmen, wie KI-Richtlinien oder die Einführung eines KI-Beauftragten, gefördert werden51 (Diese können im Folgenden nur skizziert werden).

a) Einführung von KI-Richtlinien

Die Einführung von KI-Richtlinien ist ein weiterer zentraler Baustein sowohl für den Aufbau von KI-Kompetenz im Speziellen als auch für eine effektive KI-Compliance im Unternehmen im Allgemeinen.52 KI-Richtlinien können dazu beitragen, unternehmensweit ein ausreichendes Level an KI-Kompetenz sicherzustellen.53 Eine KI-Richtlinie sollte die für den Einsatz im Unternehmen zulässigen KI-Systeme auflisten, die Voraussetzungen beschreiben, unter denen KI-Systeme verwendet werden dürfen sowie Ansprechpartner und Kontrollinstanzen bei Fragen und Problemen im Zusammenhang mit dem Einsatz von KI-Systemen regeln.54 Da sich die KI-Technologie rasant fortentwickelt, muss die KI-Richtlinie stets aktuell gehalten werden.55

b) Ernennung eines KI-Beauftragten

Ein weiteres wichtiges Element zur nachhaltigen Förderung von KI-Kompetenz im Unternehmen ist die Positionierung eines KI-Beauftragten.56 Wenngleich die KI-VO nicht vorschreibt, einen KI-Beauftragten im Unternehmen einzusetzen57, ist die Benennung einer solchen Person – die auch in Form eines Gremiums oder einer Abteilung in größeren Unternehmen eingerichtet werden kann – zu empfehlen. Ein KI-Beauftragter fungiert als zentrale Anlaufstelle für alle Fragen rund um den Einsatz von KI und kann dazu beitragen, die Einhaltung rechtlicher Anforderungen zu gewährleisten.58 Durch seine spezialisierte Expertise trägt er maßgeblich zur Risikominimierung bei, indem er potenzielle Compliance-Verstöße im Umgang mit KI-Systemen frühzeitig identifiziert und entsprechende Maßnahmen zur Risikobewältigung einleitet. Die Rolle des KI-Beauftragten fördert zudem eine ganzheitliche KI-Governance-Struktur, die technische, rechtliche und ethische Aspekte integriert und so eine verantwortungsvolle KI-Nutzung sicherstellt. Zudem kann der KI-Beauftragte als Bindeglied zwischen verschiedenen Unternehmensbereichen und den Aufsichtsbehörden fungieren, was die Transparenz erhöht und das Vertrauen in die KI-Systeme des Unternehmens stärkt.

IV. Fazit

Nach der erzielten Einigung von Rat und EU-Parlament bleibt die bisher in Art. 4 KI-VO enthaltene Pflicht zur KI-Kompetenzentwicklung im Wesentlichen bestehen. Die bisherige Kontroverse, ob es sich bei dem Ergreifen von Maßnahmen zur Unterstützung der Entwicklung von KI-Kompetenz um eine Rechtspflicht handelt, hat sich durch den geänderten Wortlaut der Vorschrift erübrigt. Ausweislich des neuen Art. 4 KI-VO handelt es sich um eine verbindliche Pflicht, die Anbieter und Betreiber von KI-Systemen erfüllen müssen, die ihre Mitarbeitenden und andere Personen mit der Nutzung von KI-Systemen beauftragen. Damit bleibt die Pflicht von Anbietern und Betreibern erhalten, dafür zu sorgen, dass Personen, die in ihrem Auftrag KI-Systeme einsetzen, über KI-Kompetenz verfügen. Zwar werden Schulungen in Art. 4 KI-VO nicht explizit genannt, Wissens- und Kompetenzaufbau im Unternehmen wird jedoch stets maßgeblich durch Schulungen vermittelt.

KI-Kompetenz ist mehrdimensional zu verstehen und umfasst sowohl ein technisches Grundverständnis der Funktionsweise von KI-Systemen, das Bewusstsein für die Grenzen ihrer Einsatzmöglichkeiten sowie Fehleranfälligkeiten, als auch bestimmte Rechtskenntnisse sowie ein ethisches Grundverständnis, insbesondere in Bezug auf die Vermeidung diskriminierender Auswirkungen des KI-Einsatzes oder die Erkennbarkeit manipulativer KI-generierter Inhalte. KI-Kompetenz umfasst zudem die Fähigkeit, KI-Ergebnisse im jeweiligen Kontext kritisch zu prüfen und bei Bedarf menschliche Expertise hinzuzuziehen.

Dieser mehrdimensionalen Bedeutung lässt sich am besten durch einen modularen Ansatz bei der Entwicklung und Förderung von KI-Kompetenz Rechnung tragen. Dazu eignen sich zielgruppenspezifische KI-Schulungen sowie weitere Maßnahmen wie etwa die Einführung von KI-Richtlinien oder die Benennung eines KI-Beauftragten.

Unternehmen mit CMS können auf bewährte Erfahrungen mit erfolgreichen Compliance-Schulungen zurückgreifen. Gleichzeitig bietet die KI-VO eine Möglichkeit, erforderliche Compliance-Maßnahmen wie Schulungen oder Richtlinien in einen übergeordneten Governance- und Compliance-Rahmen zu integrieren.

Ebenso wie bei dem Aufbau von CMS spielen Leitungsorgane und Führungskräfte eine zentrale Rolle für den Erfolg der KI-Compliance im Unternehmen. Sie sind daher auch prominentes Beispiel einer Zielgruppe, für die besondere KI-Schulungen (zusätzlich zu einer KI-Grundlagenschulung für alle Beschäftigten) erforderlich sind.

Zielgruppenorientierte und regelmäßig aktualisierte KI-Schulungen können einen wichtigen Beitrag zur Förderung der KI-Kompetenz nach Art. 4 KI-VO leisten, die für das Funktionieren von KI-Compliance im Unternehmen unerlässlich ist.

---