Jens
Ferner, RA
*

Kritisches Denken als KI-Kompetenz

Die sogenannte „KI-Kompetenz“ wird als Dauerbrenner in der Compliance gerne auf den juristischen Tatbestand des Art. 4 KI-VO reduziert, mit dem Anbieter und Betreiber von sämtlichen KI-Systemen dafür zu sorgen haben, dass eine „KI-Kompetenz“ insbesondere bei Mitarbeitern vorhanden ist. Dabei ist bereits die in Art. 3 Nr. 56 KI-VO gesetzlich definierte KI-Kompetenz maximal konturlos und erfasst am Ende jegliche persönliche Fähigkeit vom informierten Umgang mit KI-Systemen bis dazu, Chancen und Risiken von KI samt möglicher Schäden zu erfassen. Ausgehend von der Binse, dass Künstliche Intelligenz (KI) längst nicht mehr bloß technisches Thema, sondern prägend für Entscheidungsprozesse, Arbeitsabläufe und Kommunikationsformen ist, darf „KI-Kompetenz“ nicht auf eine weitere schlicht abzuhakende Compliance-Pflicht reduziert werden. Schon der Blick ins Gesetz zeigt eine umfassende Fähigkeit, mit diesen Systemen so umzugehen, dass menschliche Urteilskraft, rechtliche Anforderungen und organisatorische Realität miteinander in Einklang stehen. Wo praktische Herausforderungen der KI-Kompetenz liegen, zeigt sich dabei erst, wenn man sich von dem strengen juristischen Kontext löst und die Thematik breiter betrachtet.

I. Auswirkungen der KI-Nutzung

Die Vielschichtigkeit der Frage nach „KI-Kompetenz“ lässt sich dann sinnvoll einordnen, wenn sie vor dem Hintergrund zugleich euphorischem wie überforderten Umgangs mit generativen KI-Systemen gesehen wird. In Unternehmen wird KI vielfach unter dem Versprechen massiver Effizienzgewinne eingeführt, ohne dass die Nutzerinnen und Nutzer systematisch darauf vorbereitet wären, welche kognitiven, psychologischen und organisatorischen Nebenwirkungen der Einsatz solcher Systeme mit sich bringt. Studien zeigen dabei auf, dass eine intensive Nutzung von Text-KI Schreib- und Denkleistungen zwar kurzfristig erleichtert1 und sogar verbessert2, langfristig aber zu einer Art „kognitiver Verschuldung“ führt3, weil eigenes Erinnerungs- und Urteilsvermögen zunehmend an die Maschine ausgelagert wird – und zudem Ergebnisse subjektiv als austauschbar, „seelenlos“ oder weniger individuell wahrgenommen werden4. Dies geht einher mit einem zunehmenden Verlust fundamentaler kognitiver Fähigkeiten der einzelnen Nutzer, speziell beim Wissenstransfer5 und dem kritischen Denken6. Parallel dazu verschärfen KI-gestützte Empfehlungssysteme („Feed“) in sozialen Medien bekannte Probleme der Meinungsbeeinflussung, Emotionalisierung und Verhaltenssteuerung, ohne dass die Betroffenen regelmäßig über Funktionsweise, Grenzen und Risiken informiert wären7. Dies wird nochmals verschärft dadurch, dass in einem erheblichen Teil der Betriebe ohne Regeln in Form von „Schatten-KI“ Mitarbeiter unreguliert KI-Tools zur Bewältigung der eigenen Arbeit, teils auf eigenen Endgeräten, einsetzen8. Dass sich bereits diese Effekte auf Unternehmenskultur und -Arbeitsweise auswirken, liegt auf der Hand, etwa wenn Unternehmens-Publikationen als weniger authentisch eingestuft werden oder Unfriede zwischen Mitarbeitern aufkommt durch die unregulierte KI-Nutzung im Betrieb. Hinzu tritt die Erkenntnis, dass die für KI genutzten Rechenzentren in einem erheblichen Maß die Umwelt belasten, Wasser benötigen9 und durch den Stromverbrauch zu sozialen Spannungen führen10 – was die Frage der eigenen Verantwortlichkeit beim Einsatz von KI in den Fokus rückt.

Zugleich zeigt sich, dass zwar ein Großteil der Beschäftigten vordergründig Zeit einspart – zum Teil mehrere Stunden pro Woche –, ein erheblicher Teil dieser Zeit aber sofort wieder für die Korrektur mangelhafter KI-Ergebnisse aufgewendet werden muss11. Dieser noch zu vertiefende praktische Aspekt wird helfen, zu verstehen, warum „KI-Kompetenz“ in einem weiten Verständnis gedacht werden muss und im Eigeninteresse von Betrieben liegt. Zugleich sind die rechtlichen und ethischen Risiken eines unreflektierten KI-Einsatzes evident: Beispiele reichen von diskriminierenden Auswahlentscheidungen im Personalbereich, die zu Entschädigungsansprüchen nach dem AGG führen können, bis hin zu fehlerhaften Entscheidungen aufgrund intransparenter Modelle, denen Betroffene kaum etwas entgegensetzen können, solange sie weder Entscheidungslogik noch Datenbasis nachvollziehen.

Die KI-Verordnung reagiert auf diese Gemengelage nicht nur mit materiell-rechtlichen Anforderungen an bestimmte Systeme, sondern gerade auch mit einem Querschnittsansatz: KI soll nicht isoliert als Technik, sondern im Kontext menschlicher Urteilskraft, organisatorischer Prozesse und normativer Leitplanken gedacht werden12. Art. 4 KI-VO bringt dies auf den Punkt, indem Anbieter und Betreiber verpflichtet sind, nach besten Kräften dafür zu sorgen, dass die Personen, die KI-Systeme entwickeln, betreiben oder einsetzen, über ein „ausreichendes Maß“ an KI-Kompetenz verfügen. Die Legaldefinition der KI-Kompetenz in Art. 3 Nr. 56 KI-VO samt Auslegung durch die zukünftig Aufsicht führende Bundesnetzagentur verdeutlichen, dass es gerade nicht um ein bloßes technisches Schulungsprogramm im Sinne eines „Prompt-Crashkurses“ geht. Gemeint ist eine Bündelung von Fähigkeiten, Kenntnissen und Verständnis, die es erlaubt, KI sachkundig, verantwortungsvoll und risikobewusst einzusetzen13, Chancen produktiv zu nutzen und gleichzeitig mögliche Schäden – von verzerrten Entscheidungen bis hin zu Grundrechtsverletzungen – zu erkennen und zu begrenzen. Die Bundesnetzagentur hebt dementsprechend hervor14, dass KI-Kompetenz Voraussetzung für fundierte Entscheidungen, für die Minimierung von Risiken und für die Einhaltung gesetzlicher Vorgaben ist, es also auch um eine Form von Entscheidungskompetenz geht.

II. Normativer Rahmen

Ausgehend von diesem ersten Befund stellt sich die Frage, was der unionsrechtliche Rahmen unter KI-Kompetenz tatsächlich versteht. Art. 4 KI-VO knüpft an die Legaldefinition in Art. 3 Nr. 56 KI-VO an15, wonach KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis umfasst, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen, Risiken und möglicher Schäden bewusst zu werden16. Schon der weite Adressatenkreis zeigt, dass die Verordnung nicht nur auf eine kleine Gruppe von Spezialisten zielt, sondern die gesamte Wertschöpfungskette in den Blick nimmt: Personen, die KI entwickeln, konfigurieren oder betreiben, ebenso wie solche, die sie im täglichen Arbeitsprozess anwenden oder von ihren Entscheidungen betroffen sind. Art. 4 KI-VO selbst verpflichtet Anbieter und Betreiber dazu, „nach besten Kräften“ wenn auch begrenzt17 auf den angemessenen Aufwand18 sicherzustellen, dass ihr Personal und andere in ihrem Auftrag tätige Personen über ein „ausreichendes Maß“ dieser Kompetenz verfügen, wobei technische Vorkenntnisse, Erfahrung, Ausbildung, Einsatzkontext und adressierte Personengruppen zu berücksichtigen sind19.

Diese Formulierung ist bewusst offengehalten und vermeidet starre Vorgaben zu Inhalt, Form oder Umfang von Schulungsmaßnahmen. Weder die KI-VO noch die bisher vorliegenden beihilfefreien Auslegungshilfen sehen standardisierte Trainings oder Zertifizierungspflichten vor; vielmehr sollen Organisationen ihre Maßnahmen an eigenen Risiken, Geschäftsmodellen und Belegschaftsstrukturen ausrichten. Die Bundesnetzagentur konkretisiert dies, wenn sie betont, dass es keine „One-fits-all-Lösung“ gebe und KI-Kompetenz als kontinuierlicher, an technische Entwicklungen und Funktionswandel angepasster Prozess zu verstehen sei20. Damit verbindet Art. 4 KI-VO einen gewissen Flexibilitätsgewinn mit einer nicht zu unterschätzenden Zumutungsdimension: Unternehmen müssen zunächst selbst klären, welche Personen mit welchen Systemen in welchen Kontexten arbeiten, bevor sie sinnvolle Maßnahmen definieren und dokumentieren können.

In der Literatur ist umstritten, wie weit die rechtliche Verbindlichkeit dieser Vorgabe reicht. Teilweise wird Art. 4 KI-VO aufgrund des fehlenden ausdrücklichen Sanktionsbezugs im Verordnungstext als bloße Programmbestimmung oder „Appellnorm“ qualifiziert, teilweise als Obliegenheit und teilweise als echte Pflicht eingeordnet, deren Missachtung mittelbar über andere Regelungszusammenhänge haftungs- oder aufsichtsrechtlich relevant werden kann. Klar ist jedenfalls, dass Art. 4 KI-VO nicht isoliert steht, sondern in Wechselwirkung zu speziellen Pflichten für Hochrisiko-Systeme tritt: So verlangt Art. 26 Abs. 2 KI-VO für Aufsichtspersonen bei Hochrisiko-Systemen ausdrücklich die erforderliche Kompetenz, Ausbildung und Befugnis, während Art. 14 eine wirksame menschliche Aufsicht normiert. Maßnahmen nach Art. 4 KI-VO können diese rollenbezogenen Anforderungen nicht ersetzen, bilden aber die Basis, auf der solche spezialisierten Kompetenzen überhaupt aufgebaut werden können.

III. KI-Kompetenz

Die abstrakten Vorgaben des Art. 4 KI-VO gewinnen Kontur, wenn man fragt, welche inhaltlichen Bausteine eine belastbare KI-Kompetenz tatsächlich umfasst. Aus hiesiger Sicht ergibt sich ein viergliedriges Kompetenzbild mit einer Gemengelage von erst einmal abstrakten Kompetenzen: In wechselseitiger Beziehung zueinander stehen technisches Grundverständnis mit sachgerechter Anwendung, kontextbezogenes Risiko- und Prozesswissen, rechtlich-ethische Urteilsfähigkeit sowie ein institutionalisiertes Lernen mit Dokumentation.

Abb.: Kompetenzbild

Zuvorderst verlangt KI-Kompetenz natürlich das stets im Fokus stehende hinreichende technische Verständnis verwendeter Systeme21 – ohne dass alle Anwender gleich Data Scientists sein müssten22. Gemeint ist die auf Fachwissen23 basierende Fähigkeit, Grundprinzipien von Algorithmen (speziell den Zusammenhang zwischen Daten und Algorithmus), maschinellem Lernen und insbesondere generativer Modelle zu verstehen24, typische Fehlerphänomene wie Halluzinationen, Bias und Überanpassung einordnen zu können und die Grenzen statistischer Modelle als Wahrscheinlichkeitsmaschinen zu erkennen. Dazu gehört eine sichere, aber reflektierte Bedienung der im Unternehmen eingesetzten Tools, einschließlich zielgerichteter Prompt-Gestaltung und der Fähigkeit, Outputs hinsichtlich Plausibilität, Vollständigkeit und fachlicher Passung kritisch zu prüfen25. Transparenz- und Erklärbarkeitsanforderungen (Art. 13, 52 KI-VO) fügen dem eine zweite Ebene hinzu: Nutzer sollen nicht nur wissen, dass Modelle Black Boxes sein können, sondern auch, welche erklärenden Informationen – etwa aus Dokumentation, xAI-Verfahren oder internen Richtlinien – heranzuziehen sind, um Entscheidungen nachvollziehen und gegebenenfalls korrigieren zu können.

Weiterhin genügt es nicht, allgemeine Eigenschaften von Sprachmodellen oder Klassifikatoren zu kennen26; entscheidend ist das Verständnis der konkreten Einsatzsituation und ihrer Risiken, dem „Kontext27“. Mitarbeitende müssen einschätzen können, welche Rolle ein System im jeweiligen Prozess spielt28, ob es sich um eine unkritische Effizienzunterstützung oder um ein potenziell grundrechtsrelevantes oder haftungsträchtiges Hochrisiko-Setting handelt und wie sich Fehler dort auswirken. Kontextbezogenes Denken bedeutet insoweit, die branchenspezifischen und rollenabhängigen Anforderungen zu kennen, etwa im Steuer-, Gesundheits- oder Bildungsbereich, und die Wirkung KI-gestützter Entscheidungen auf Dritte systematisch zu reflektieren.

KI-Kompetenz umfasst des Weiteren eine eigenständige rechtlich-ethische Dimension einschließlich des juristischen Kontextes29 – von der KI-VO selbst über Datenschutzrecht bis hin zu Gleichbehandlungs- und Haftungsnormen – samt Fähigkeit, diese Vorgaben auf den konkreten KI-Einsatz zu übertragen. Hinzu treten ethische Leitbilder, wie sie etwa in den OECD-Prinzipien und den programmatischen Teilen der KI-VO anklingen: menschenzentrierte Werte, Nichtdiskriminierung, Transparenz, Rechenschaftspflicht und ein Bewusstsein für gesellschaftliche Folgewirkungen. Dies mündet darin, KI nicht als vermeintlich neutrale Technik zu verstehen, sondern vielmehr als Instrument, das bestehende Ungleichheiten verstärken oder abmildern, Vertrauen stützen oder zerstören und damit unmittelbare Rückwirkungen auf die Legitimität von Entscheidungen im Unternehmen und im Rechtssystem haben kann – auch bei der Frage, welche ökologischen und gesellschaftlichen Auswirkungen damit einhergehen.

KI-Kompetenz als solche ist im Übrigen kein statischer Zustand, sondern ein fortlaufender, dokumentationsbedürftiger Lernprozess30. Auch wenn Art. 4 KI-VO keine formalen Zertifikate verlangt31, so gilt doch der allgemeine Grundsatz der Compliance, dass Unternehmen Maßnahmen nicht nur ergreifen, sondern auch begründen und nachweisen können müssen32. Die Bundesnetzagentur empfiehlt daher zutreffend, Bedarfsanalyse, Schulungsinhalte, Zielgruppen, Auffrischungszyklen und Teilnahme systematisch zu erfassen33, um sowohl gegenüber Aufsichtsbehörden als auch in Haftungssituationen darlegen zu können, dass „nach besten Kräften“ gehandelt wurde. Kontinuierliche Fortbildung, kritische Selbstreflexion im Umgang mit KI (einschließlich der Sensibilisierung für kognitive Verzerrungen) und eine Dokumentationspraxis, die es erlaubt, aus Fehlern zu lernen und organisatorische Standards fortzuentwickeln sind Ausfluss dessen.

Ausgehend von diesen noch sehr abstrakten Teil-Kompetenzen sind zwar keine pauschalen Lösungen möglich34, auch wenn Basisschulungen ein gerne angebrachter Rat sind35, es lassen sich aber konkrete Konzepte für den Alltag erarbeiten, die sinnvoll in interne Richtlinien transportiert werden36. Ein solches Konzept findet sich im „AI Fluency Framework“ von Dakan und Fuller37, das eine pragmatische Orientierung zu der Frage bietet, welche Fähigkeiten Führungskräfte und Mitarbeitende nun konkret benötigen, um produktiv und verantwortungsvoll mit KI zu arbeiten. Es unterscheidet vier auf den Unternehmensalltag abbildbare Kernkompetenzen:

Die Fähigkeit zum

1. Delegieren meint unter kritischer Reflexion zu entscheiden, wann KI sinnvoll eingesetzt wird – und ebenso bewusst zu erkennen, wann menschliche Expertise Vorrang haben muss, was das Stichwort Entscheidungskompetenz pointiert. Unter
2. Beschreiben fällt dann die klare, präzise Kommunikation mit KI-Systemen: Wer seine Ziele, Rahmenbedingungen und Qualitätsmaßstäbe sauber formuliert, erzielt bessere Ergebnisse als jemand, der „einfach nur etwas eingibt“ – das geht deutlich über technisches Prompting hinaus und ist eher strategische Auftragsklärung.
3. Beurteilen beschreibt die Kompetenz, KI-Ergebnisse kritisch einzuordnen: Plausibilität prüfen, mit eigenen Daten und Fachwissen abgleichen, Grenzen der Modelle verstehen und Risiken wie Bias oder Halluzinationen erkennen. Schließlich verlangt
4. Sorgfalt, die ethischen, rechtlichen und praktischen Konsequenzen des KI-Einsatzes mitzudenken – von Datenschutz und Vertraulichkeit über Haftungsfragen bis hin zu Reputationsrisiken – und daraus klare Verantwortlichkeiten, Richtlinien und Kontrollmechanismen abzuleiten.

IV. Kritisches Denken

KI-Kompetenz setzt vor allem die Fähigkeit des kritischen Denkens voraus38 – verstanden nicht als Technikverweigerung, sondern als Fähigkeit, mit KI in einen rationalen, selbstkorrigierenden Dialog zu treten39. Im europäischen Denken ist das kritische Denken historisch eng mit der Idee verbunden, eigene Überzeugungen, Autoritäten und vermeintlich selbstevidente Wahrheiten systematisch zu hinterfragen40. Insoweit ist kritisches Denken dann auch nicht mit „Skeptizismus“ oder gar grundlegender Ablehnung zu verwechseln. Vielmehr geht es im Kontext des europäischen Verständnisses, um ein schlichtes „Beurteilen“ als Tradition, in der Vernunft gerade darin besteht, Gründe zu prüfen, Alternativen zu erwägen und sich Irrtumsmöglichkeiten bewusst zu halten41. Daher mag man die kritische Auseinandersetzung42 ebenso wie eine politische Ethik43 auch als in einer gewissen Tradition stehende europäische Werte ansehen, die sich bei diesem modernen technischen Thema als kultureller Aspekt zeigt. Insoweit handelt es sich dann möglicherweise auch um ein gewisses europäisches Selbstverständnis, bei neuen Technologien erst einmal mit kritischer Grundhaltung und fundamentaler Regulierung zu reagieren44, nicht zuletzt da dies elementar mit dem europäischen Verständnis von (meinungsgebildeter) Demokratie verknüpft ist45.

Übertragen auf KI bedeutet das Fokussieren auf die Fähigkeit kritischen Denkens: Wer KI-Outputs nutzt, soll sie weder naiv übernehmen noch pauschal abwerten, sondern sie als Hypothesen behandeln, die einer eigenen Prüfung und Kontextualisierung bedürfen. Das kritische Denken ist dabei auch ein Gegenentwurf zu den kognitiven Verzerrungen, die den Umgang mit KI-Ergebnissen prägen46 und die als menschliche Problematik zwingend bekannt sein müssen47. Als solche, jedem Menschen immanente48, Verzerrungen sind in einer Auswahl zuvorderst zu benennen: (1) der Bestätigungsfehler, die Tendenz, nur solche Antworten zu suchen oder zu akzeptieren, die ins eigene Weltbild passen, (2) der Mitläufereffekt, bei dem „plausible“ oder populäre KI-Antworten unkritisch übernommen werden und (3) Framing-Effekte, bei denen schon die Eingabeformulierung den Blick auf mögliche Ergebnisse verengt. Hinzu kommen klassische selektive Wahrnehmung und Rückschaufehler, die dazu verleiten, einzelne gelungene Antworten zu überschätzen und fehlerhafte Ausgaben im Nachhinein als vermeidbar oder „eigentlich vorhersehbar“ zu reinterpretieren, was die menschliche Fähigkeit der Entscheidungsfindung massiv beeinflusst49, die nach einem fortwährenden Prinzip von Simplifizierung funktioniert50. An dieser Stelle ist in aller Kürze zu erinnern, dass unser Gehirn auf Basis zweier Systeme funktioniert51 und ein auf Heuristiken52 basierendes „schnelles Denken“53 („System 1“), das gerade nicht – wie das „langsame Denken“ („System 2“) – reflektiert, sondern mit dem man versucht, kognitive Energie zu sparen54 und das durch vorgegebene Inhalte besonders leicht vorgeprägt werden kann („Ankereffekt55“). Dazu tritt unsere subjektive Interpretation aufgenommener Informationen zur Wahrung unseres Selbst- und Weltbildes56. Kritisches Denken im strengen Sinn versucht dem nun entgegenzuwirken, indem es nicht nur verifiziert, was man ohnehin glaubt, sondern gezielt nach Gegenbelegen sucht, alternative Erklärungen prüft und die eigene Perspektive als potenziell begrenzt reflektiert. Ein Ansatz mag sein, das von Karl Popper geprägte Falsifikationsdenken57 einzuüben, ein systematisches Suchen nach, den generierten Output widerlegenden, Beispielen58. Auch wenn heute grundsätzlichen Bedenken als allgemeine Wissenschaftstheorie ausgesetzt59, bietet sich hiermit ein einfach umsetzbares Arbeitsprinzip für den Umgang mit KI-Texten und -Prognosen.

Gerade weil KI-Systeme sprachlich oder visuell überzeugende Ergebnisse liefern, liegt es nahe, diese als „fertigen Anker“ zu akzeptieren und sich damit eine eigene Beurteilung zu „ersparen“. Die empirischen Studien zu Produktivitätseffekten generativer KI zeigen indes, dass genau dieses Verhalten in zusätzlicher Arbeit mündet: Beschäftigte sparen zwar Zeit bei der Erstellung von Inhalten, müssen dann aber erhebliche Ressourcen aufwenden, um fehlerhafte, unpassende oder zu oberflächliche Ergebnisse zu korrigieren. „KI-Workslop“ bezeichnet jene Qualitätsschwelle, bei der KI-Outputs schon so professionell wirken, dass sie unkritisch weiterverarbeitet werden60, inhaltlich aber nicht tragfähig sind und dadurch im Team Mehrarbeit, Frustration und Vertrauensverlust erzeugen. Kritisches Denken ist an dieser Stelle die Voraussetzung dafür, Workslop frühzeitig zu erkennen, zu markieren und entweder substantiiert nachzuarbeiten oder das Ergebnis zu verwerfen, bevor es in Dokumente, Präsentationen oder Entscheidungsprozesse einfließt.

Für die rechtliche und organisationale Perspektive bedeutet das: KI-Kompetenz im Sinne des Art. 4 KI-VO ist ohne explizit kultiviertes kritisches Denken nicht funktionsfähig. Wer KI-Systeme im Personalbereich, in der Beratung oder in der Rechtsanwendung nutzt, muss in der Lage sein, scheinbar objektive oder elegante Outputs gegen Fachwissen, Erfahrungswerte und normative Maßstäbe zu halten, statt sich hinter der „Blackbox“ zu verstecken. Das schließt die Einsicht ein, dass Kritik nicht mit Technikfeindlichkeit gleichzusetzen ist: Man kann KI-Einsatz befürworten, gerade weil man bereit ist, ihn zu hinterfragen, zu begrenzen und bei Bedarf zu korrigieren. In Schulungskonzepten nach Art. 4 KI-VO bedeutet dies, dass neben technischen und rechtlichen Inhalten methodische Elemente verankert werden müssen, die genau dieses Denken fördern61 – etwa durch gezielte Falsifikationsaufgaben, die Analyse fehlerhafter KI-Outputs und die Reflexion eigener Biases.

V. Zeit sparen – und wieder verlieren

Die beschriebenen Kompetenzanforderungen bleiben abstrakt, solange sie nicht der Realität des KI-Einsatzes im Unternehmen gegenübergestellt werden. Und gerade hier zeigt sich, dass ohne substanzielle KI-Kompetenz ein systematischer Widerspruch zwischen erhoffter Effizienz und tatsächlicher Praxis entsteht. So werden in vielen Organisationen Berichte, Präsentationen oder Auswertungen mit wenigen Prompts generiert und als „fertige“ Arbeitsergebnisse wahrgenommen, die jedoch fachlich oberflächlich, kontextblind oder schlicht fehlerhaft sind. Dies beschreibt der Begriff des „AI-Workslop“: Auf den ersten Blick professionell wirkende, tatsächlich aber oberflächliche oder unzuverlässige Outputs erzeugen eine neue, schwer sichtbare Form des Ressourcenverbrauchs, weil andere Teammitglieder das vermeintlich Erledigte prüfen, überarbeiten oder neu erstellen müssen. Befragungen unter aktiven KI-Nutzern scheinen hierzu zu belegen, dass Nacharbeit an fehlerhaften Texten, Präsentationen oder Auswertungen regelmäßig mehrere Stunden pro Woche beansprucht und dass nur eine Minderheit der Nutzer zu einem durchgängig positiven Nettoeffekt mit besserer Qualität gelangt. Das Versprechen, Zeit zu sparen, schlägt in einen neuartigen AI-Timesaving-Bias um: Man glaubt, produktiver zu werden, investiert aber in Wahrheit erhebliche Ressourcen in die nachgelagerte Qualitätssicherung62.

Nur eine vergleichsweise kleine Gruppe erreicht den Zustand, in dem KI unter dem Strich sowohl Zeit spart als auch die Qualität der Ergebnisse verbessert. Für die Mehrheit wird in einem Fazit die Produktivitätsbilanz durch den Korrekturaufwand zumindest teilweise neutralisiert. Hinzu kommt, dass diese Mehrarbeit selten als solche sichtbar wird, denn, während die unmittelbare Zeitersparnis beim Erzeugen von Inhalten leicht kommunizierbar ist und sich gut in Transformationsnarrative einfügt, werden die Kosten der Prüfung, des Umschreibens und der Abstimmung häufig in individuellen Überstunden, stillen Frustrationen oder eskalierenden Qualitätskonflikten „versteckt“. Auf der Hand liegend ist der Rückschluss, dass daraus ein schlechtes Teamklima und Vertrauensverlust entstehen dürfte: Wer wiederholt Workslop-Ergebnisse ausgleichen muss, ohne dass der organisationale Rahmen dies als Problem adressiert, wird die Technologie aber auch die Kolleginnen und Kollegen, die sie unkritisch einsetzen, eher als Belastung denn als Unterstützung wahrnehmen.

Vor diesem Hintergrund nun erscheint KI-Kompetenz im Sinne des Art. 4 KI-VO weniger als abstrakter Idealzustand, denn als Voraussetzung dafür, dass sich moderne Effizienzversprechen überhaupt realisieren lassen. Wer nur die Eingabe beherrscht, aber weder die eigenen Biases noch die Grenzen des Modells kennt, produziert zwangsläufig Workslop, der nachgelagert kostenintensiv bearbeitet werden muss. Wer dagegen die oben aufgezeigten Kompetenzdimensionen – technisches Grundverständnis, Kontextsensibilität, rechtlich-ethisches Urteilsvermögen und reflektierte Lernpraxis – ausgebildet hat, ist in der Lage, KI gezielt dort einzusetzen, wo sie tatsächlich entlastet, und gleichzeitig Fehlerquellen früh zu erkennen und zu begrenzen, noch bevor man in eine zeitaufwendige Qualitätssicherung einsteigen muss. Daneben tritt die Erkenntnis, dass es nicht um Effizienz allein geht, denn der Einsatz von KI mag am Ende Zeit kosten, aber auch das Erleben der Arbeit als solcher qualitativ aufwerten63, so dass Arbeiten insgesamt angenehmer empfunden werden. Auch dieser weiche Effekt sollte Berücksichtigung finden.

Die eigentliche Modernität des KI-Kompetenzbegriffs liegt hieraus folgernd darin, dass er die ökonomische Perspektive der Produktivität mit einer rechtlichen, menschlichen und ethischen Perspektive der Verantwortlichkeit verschränkt. Dies in dem Sinne, dass KI-Kompetenz eben nicht dazu befähigt, KI-Nutzung zu maximieren, sondern dafür zu sorgen, dass diejenigen, die KI verwenden, verstehen, was sie tun und welche Zeit- und Qualitätskosten damit verbunden sind. Spiegelbildlich müssen Unternehmen im Blick haben, dass sie ihre Mitarbeiter auch kurzerhand überfordern können, wenn zu viel auf einmal erwartet wird64 und dass KI-Kompetenz den Betrieb an dieser Stelle vor ausgebrannten Mitarbeitern schützen kann.

VI. Fazit: KI-Kompetenz als Organisations- und Haftungspflicht

Es geht am Ende um ein Kompetenzprofil, das technisches, kontextuelles und normatives Wissen mit einer institutionell verankerten Lernkultur verbindet – und dadurch die Voraussetzungen dafür schafft, dass KI-Systeme nicht zum Automatisierungsmythos, sondern auf Basis reflektierter Entscheidungen zu verantwortungsvoll eingesetzten Werkzeugen werden. Denn letztlich geht es im Sinne gesunder Fehlerkultur weniger darum, dauerhaft optimale Entscheidungen zu treffen, als vielmehr darum, dass diese verantwortungsvoll getroffen sind65. Hierzu wurde gezeigt, dass sich der normative Rahmen weniger durch harte Detailvorgaben als durch Leitplanken auszeichnet, die inhaltlich in der Praxis durch Erwägungsgrund 20 und das BNetzA-Hinweispapier konturiert werden. Gefordert wird ein allgemeines Verständnis von KI-Systemen, ihrer Funktionsweise, Grenzen und Risiken, ergänzt um kontextbezogene Kenntnisse, die die Einhaltung der KI-VO und anderer Normen – etwa im Datenschutz oder im Antidiskriminierungsrecht – erst ermöglichen. Art. 4 KI-VO verankert im Ergebnis einen Mindeststandard rationaler und informierter KI-Nutzung im Unternehmenskontext: Wer KI einsetzt, soll sich nicht hinter vermeintlicher Autonomie der Systeme verstecken, sondern aktiv – im Sinne von verantwortungsvoll – dafür Sorge tragen, dass die handelnden Personen verstehen, was sie tun, welche Folgen dies haben kann und welche rechtlichen und ethischen Grenzen zu beachten sind66.

Vor diesem Hintergrund lässt sich KI-Kompetenz im Sinne des Art. 4 KI-VO als verbindendes Element zwischen individueller Qualifikation, organisatorischer Steuerung und Haftungsprävention verstehen. Die Norm erschöpft sich nicht darin, Schulungsprogramme anzuregen, sondern adressiert die Frage, wie Unternehmen KI so verankern, dass Verantwortlichkeiten klar bleiben und Fehlentwicklungen aufgefangen werden können. Wer KI in Abläufe integriert, muss für Strukturen sorgen, die sachkundige Nutzung ermöglichen, Risiken antizipieren und eine spätere Aufarbeitung von Fehlentscheidungen erlauben. KI-Kompetenz ist also auch keine reine Mitarbeiterfrage, sondern ein Thema der Unternehmensleitung. Aus Art. 4 KI-VO, zu lesen im Kontext allgemeiner haftungsrechtlicher Grundsätze, lässt sich herleiten, dass die Führungsebene klärt, welche KI-Systeme mit welchem Risiko eingesetzt werden, welche Personengruppen welche Kompetenzen benötigen, wie Schulungen und Richtlinien gestaltet und wie deren Umsetzung kontrolliert werden. Modelle wie KI-Beauftragte, KI-Champions in den Fachbereichen oder die Einbettung von KI-Kompetenz in bestehende Compliance-Strukturen sind Ausdruck dieses Organisationsgedankens: Sie sollen sicherstellen, dass technisches Wissen, kontextbezogene Erfahrung und rechtlich-ethische Reflexion nicht zufällig verteilt, sondern gezielt gebündelt und im Unternehmen verankert werden.

Der erweiterte Blick auf die oben aufgezeigte, problematische Thematik des KI-Workslop macht deutlich, dass Unternehmen sich diese Strukturen nicht nur im Interesse der Aufsichtsbehörden, sondern aus eigener ökonomischer Vernunft heraus leisten sollten. Wenn KI-Outputs unkritisch übernommen, ohne Qualitätsmaßstäbe verteilt und später mühsam korrigiert werden, entstehen verdeckte Kosten und Reputationsrisiken, die weit über den Nutzen kurzfristiger Zeitgewinne hinausgehen. Eine explizit auf kritisches Denken und Bias-Sensibilität ausgerichtete KI-Kompetenzstrategie wirkt dem entgegen: Sie schafft Kriterien, nach denen Ergebnisse angenommen, verändert oder verworfen werden, und damit auch einen Rahmen, in dem Verantwortung für Fehler klar zugeordnet werden kann. In diesem Sinne zwingt die KI-Kompetenz-Thematik Unternehmen, KI nicht nur als Tool, sondern als Gegenstand der Organisationsgestaltung zu begreifen, und verbindet individuelle Fähigkeiten mit strukturellen Schutzmechanismen.

KI-Kompetenz ernst zu nehmen bedeutet, KI nicht als schlichte Delegation von Verantwortung an Algorithmen zu verstehen, sondern als Anlass, menschliche Urteilskraft, rechtliche Sensibilität und organisatorische Klarheit neu zu begreifen – und gerade dadurch sowohl Haftungsrisiken zu reduzieren als auch den tatsächlichen Mehrwert der Technologie aber auch des Menschseins zu heben. Denn auch wenn Art. 4 KI-VO selbst keinen ausdrücklichen Sanktionsverweis enthält67, so handelt es sich doch um eine haftungsrechtlich relevante Norm68. Für Hochrisiko-Systeme verlangt die KI-VO ausdrücklich, dass menschliche Aufsicht durch Personen ausgeübt wird, die über hinreichende Kompetenz, Ausbildung und Befugnis auch im Sinne des Art 4 KI verfügen69; Verstöße können mit empfindlichen Bußgeldern sowohl in der KI-VO70 aber auch über §130 OWIG71 geahndet werden. Diskutiert wird zudem, ob eine Verletzung der Vorgaben zum Risikomanagement angenommen werden könnte72. In Haftungskonstellationen – etwa bei diskriminierenden Personalentscheidungen oder fehlerhaften automatisierten Bewertungen – wird es zudem naheliegen, die Frage zu stellen, ob der Arbeitgeber angemessene Maßnahmen zur Vermittlung von KI-Kompetenz getroffen hat, bevor er sich auf mangelnde Vorhersehbarkeit oder „autonomes“ Verhalten der Systeme beruft73. Im Übrigen ist zu diskutieren, ob Art. 4 KI-VO als Schutzgesetz im Sinne des § 823 Abs. 2 BGB74 oder jedenfalls als Maßstab für die Bestimmung der Beweislast hinsichtlich eines Verschuldens75 herangezogen werden kann; unabhängig von der dogmatischen Einordnung dürfte eine dokumentierte Kompetenzstrategie jedenfalls ein gewichtiges Argument für eine Beweislast beim Geschädigten darstellen76.

Letzten Endes sollte der Gesamtblick auf „die KI-Kompetenz“ verdeutlichen, dass dies kein rein innerbetriebliches oder technisches Thema ist, sondern ein gesamtgesellschaftliches77. Dabei engt der Begriff als solcher bereits das notwendige Blickfeld unsachgemäß ein, weckt er doch den Eindruck, es ginge allein um Kompetenzen im Umgang mit der „Technik KI“. Tatsächlich aber geht es längst um die Kompetenz nicht nur mit anderen Menschen umzugehen, die KI einsetzen und deren Ergebnisse (unreflektiert) verwenden; es geht darüber hinaus um die Kompetenz sich selbst, seine Arbeitsweise, Fehlerhaftigkeit aber auch originäre Fähigkeiten realistisch einzuschätzen78 und in Beziehung zu KI zu setzen. Wie aufgezeigt ist Kritik das Schlüsselwort in dem Zusammenhang – nicht allein in Form kritischen Denkens im Umgang mit KI-Output, sondern eben auch in Form von gelebter Selbstkritik, zumal bekanntlich das Zweifeln die Grundlage unseres selbstbestimmten Denkens ist79. Unternehmen, in denen Mitarbeiter solch grundlegende Fähigkeiten an den Tag legen, bieten ein solides Fundament, um über ernsthafte KI-Kompetenz zu sprechen.

---