RA Prof. Dr. Fabian Pfuhl und RA Felix Ackermann*

Aktuelle Entwicklungen im KI-Recht

Kurz und Knapp
Die Integration künstlicher Intelligenz (KI) in alle Lebensbereiche ist im vergangenen Jahr schneller vorangeschritten als je zuvor. Wie regelmäßig, wenn neue Technologien auf dem Vormarsch sind, stellen sich im Zusammenhang mit ihrer Nutzung eine Vielzahl neuer Rechtsprobleme. Der vorliegende Beitrag gibt im ersten Teil einen Überblick über die zentralen Rechtsprechungsentwicklungen des Jahres 2025. Im zweiten Teil liegt der Fokus auf aktuellen gesetzgeberischen und regulatorischen Entwicklungen.

I. Teil 1: Überblick über die Rechtsprechungsentwicklungen im Jahr 2025

1. Urheberrecht

a) Urheberrechtlicher Schutz von Liedtexten bei behauptetem Einsatz von KI

Das LG Frankfurt a. M. hatte sich im Rahmen eines einstweiligen Verfügungsverfahrens mit einer musikalischen Komposition zu befassen, die unter Nutzung des KI-Tools „SunoAI“ entstanden war.1 Die Verfügungsklägerin machte urheberrechtliche Unterlassungsansprüche wegen der Übernahme ihres Liedtextes in diese Komposition geltend.2 Zwischen den Beteiligten war streitig, ob der gegenständliche Liedtext allein durch menschliche Schöpfung oder mithilfe von KI geschaffen wurde. Das Gericht hatte insbesondere darüber zu entscheiden, ob der in Frage stehende Liedtext als urheberrechtlich geschütztes Sprachwerk nach § 2 Abs. 1 Nr. 1 UrhG anzusehen ist.3

Das Gericht stellte zunächst klar, dass Liedtexte als Sprachwerke urheberrechtlichen Schutz genießen können, dagegen aber KI-generierte Texte grundsätzlich keinen Schutz genießen.4 Sodann konkretisierte das Gericht die Anforderungen an die Beweislast in Fällen, in denen streitig ist, ob es sich um ein von einem Menschen geschaffenes oder um ein KI-generiertes Werk handelt: Bei konkreten Anhaltspunkten für einen KI-generierten Output, die substantiierte Zweifel an der Schutzfähigkeit wecken, hat der vermeintliche Urheber den Gang der Werkentstehung zu schildern.5 Dies umfasst unter anderem die Offenlegung über das „Ob“ und „Wie“ der Nutzung von KI-Systemen, sodass eine Differenzierung zwischen menschlichem und KI-basiertem Output hinsichtlich der jeweiligen Komponenten des Werks ermöglicht wird.6 Weiter wies das Gericht darauf hin, dass Liedtext und Melodie jeweils selbstständig verwertbar bleiben, auch wenn sie miteinander verbunden werden.7

Das Gericht gelangte zu der Überzeugung, dass die Verfügungsklägerin den Liedtext selbst, d. h. ohne Einsatz eines KI-Systems, verfasst hatte und stützte sich dabei vor allem auf deren eidesstattliche Versicherung.8 Insoweit gewichtete das Gericht die eidesstattliche Versicherung stärker als das von der Verfügungsbeklagten eingeholte Musikgutachten. Dieses hatte aufgrund von Inkonsistenzen und logischen Brüchen erhebliche Zweifel an der menschlichen Schaffung des Liedtextes gehegt.9 Das Gericht sah diese Brüche jedoch als „Ausdruck der künstlerischen Freiheit“.10

Bewusst offen gelassen hat das Gericht die Frage, ob ein mittels eines schutzwürdigen Prompts erstellter Text urheberrechtlichen Schutz genießt.11

b) Zulässigkeit urheberrechtlicher Vervielfältigungen zum Text- und Data-Mining für KI-Training

Das Hanseatische OLG beschäftigte sich gegen Ende des vergangenen Jahres mit der urheberrechtlichen Zulässigkeit der Verwendung einer Fotografie zum Zwecke der Erstellung eines Datensatzes für anschließendes KI-Training.12 Der Kläger, ein Fotograf, wandte sich gegen die Nutzung einer von ihm erstellten Fotografie, die von der Website einer Bildagentur heruntergeladen und im Rahmen der Erstellung eines frei zugänglichen Datensatzes bestehend aus Bild-Text-Paaren verarbeitet wurde, der für das Training von KI genutzt werden kann. Der beklagte Verein hatte die Fotografie automatisiert heruntergeladen, mit einer Bildbeschreibung abgeglichen und anschließend lediglich Metadaten (insbesondere die URL und eine Bildbeschreibung), nicht aber das Bild selbst, in den Datensatz aufgenommen, ohne hierfür eine Lizenz des Klägers einzuholen. Im Kern ging es um die Frage, ob die Vervielfältigung im Sinne des § 16 Abs. 1 UrhG in Form eines Downloads durch urheberrechtliche Schranken als berechtigt anzusehen ist.13 

Das Gericht wies die Klage auf Unterlassung nach § 97 Abs. 1 UrhG ab, wobei es eine Rechtfertigung durch die urheberrechtlichen Schrankenregelungen des § 44b UrhG und § 60d UrhG bejahte.14 Sowohl § 44b UrhG als auch § 60d UrhG sehen Ausnahmen vom urheberrechtlichen Schutz für Vervielfältigungen für das Text und Data Mining (TDM) vor. Das Gericht stellte fest, dass § 44b Abs. 1 UrhG auch den hier vorliegenden Fall erfasst, da es sich bei der Analyse der Übereinstimmung von Fotografie und Bildbeschreibung um eine „Korrelation“ im Sinne der Vorschrift handelte.15 Praktisch relevant ist die Entscheidung vor allem im Hinblick auf die Frage der Beweislastverteilung bei einem entgegenstehenden Nutzungsvorbehalt im Sinne des § 44b Abs. 3 UrhG. Nach § 44b Abs. 3 UrhG ist die Nutzung nur zulässig, wenn sich der Rechteinhaber diese nicht vorbehalten hat und, bei online zugänglichen Werken, der Vorbehalt in maschinenlesbarer Form erfolgt. Das Gericht stellte klar, dass die Beweislast dafür, dass sich der Rechteinhaber die Nutzung nicht vorbehalten hat, beim Nutzer liegt.16 Die Beweislast dafür, dass der Nutzungsvorbehalt maschinenlesbar ist, soll dagegen beim Rechteinhaber liegen.17 Dass der im konkreten Fall erklärte Nutzungsvorbehalt tatsächlich maschinenlesbar war, hatte der Kläger nicht zur Überzeugung des Gerichts bewiesen.18

Hinsichtlich der TDM-Schranke aus § 60d UrhG ging das Gericht davon aus, dass auch die nachfolgende Nutzung des Datensatzes zum Zwecke des KI-Trainings aufgrund der damit verbundenen Entwicklungstätigkeiten unter den Begriff der wissenschaftlichen Forschung fällt.19 Dem Aspekt einer nicht kommerziellen Handlung soll auch nicht entgegenstehen, dass eine Offenlegung an die Allgemeinheit erfolgt, die unter anderem eine potenzielle Weiternutzung durch kommerziell agierende Unternehmen miteinschließt.20

c) Vervielfältigung durch Sprachmodelle: Urheberrechtliche Grundsatzentscheidung zur KI‑Memorisierung

Unter anderem die Lieder „Männer“ von Herbert Grönemeyer, „Über den Wolken“ von Reinhard Mey und „In der Weihnachtsbäckerei“ von Rolf Zuckowski beschäftigten das LG München I.21 Das Gericht hatte erstmals grundlegend darüber zu entscheiden, ob Training und Betrieb generativer KI-Sprachmodelle urheberrechtsverletzend sind, wenn diese geschützte Werke (hier: Liedtexte) memorisieren und auf einfache Prompts hin wiedergeben. Im vorliegenden Verfahren machte die GEMA gegenüber dem Anbieter eines KI-Tools Unterlassungs-, Auskunfts- und Schadenersatzansprüche wegen Verletzung von Urheber- und Persönlichkeitsrechten an unterschiedlichen Liedtexten geltend. Die streitgegenständlichen Liedtexte wurden dabei als Outputs in veränderten Fassungen wiedergegeben.22 Im Ergebnis erwies sich die Klage als überwiegend begründet. Lediglich die persönlichkeitsrechtlichen Ansprüche wurden abgewiesen.23

Zunächst setzte sich das Gericht mit den urheberrechtlichen Ansprüchen auseinander und gelangte zu dem Ergebnis, dass sowohl auf der Ebene des Modells als auch auf der Ebene der Outputs Urheberrechtsverletzungen vorliegen können.24 Zentrale dogmatische Weichenstellung der Entscheidung war die Einordnung der Memorisierung von Trainingsdaten als urheberrechtlich relevante Vervielfältigung im Sinne von § 16 UrhG.25 Nach Auffassung des Gerichts genügt es für eine Vervielfältigung, dass geschützte Werke in den Parametern eines Sprachmodells so festgelegt sind, dass sie reproduzierbar enthalten sind und über technische Zwischenschritte (insbesondere durch einfache Prompts) mittelbar wahrnehmbar gemacht werden können.26 Es sei nicht erforderlich, dass ein Werk als klar identifizierbarer Datensatz im Modell gespeichert ist.27 Die Zerlegung eines Werkes in Modellparameter stehe der Annahme einer Vervielfältigung nicht entgegen.28 Damit qualifizierte das Gericht KI-Modelle selbst als potenzielle Vervielfältigungsstücke.

Die streitgegenständlichen Werke seien durch den Betreiber des großen Sprachmodells vervielfältigt worden. Der Anwendungsbereich des § 44b UrhG sei zwar grundsätzlich für Sprachmodelle wie die streitgegenständlichen Modelle eröffnet.29 Werden jedoch – wie vorliegend beim Training eines KI-Modells – nicht nur Informationen aus Trainingsdaten extrahiert, sondern Werke vervielfältigt, sei dies nicht mehr von der Schranke gedeckt.30 Entscheidend soll die klare Zweckbindung sein: Sobald Trainingsdaten nicht nur ausgewertet, sondern als Werke im Modell erhalten bleiben, soll die Privilegierung des § 44b UrhG entfallen.31

Auch eine Privilegierung nach § 60d UrhG, der TDM-Schranke für Zwecke der wissenschaftlichen Forschung, lehnte das Gericht ab, da der Betreiber des großen Sprachmodells nicht als Forschungseinrichtung in diesem Sinne anzusehen sei.32 Zwar stehe eine Gewinnorientierung der Anwendbarkeit der Schranke des § 60d UrhG nicht grundsätzlich entgegen, allerdings müssen hierzu weitere Kriterien erfüllt sein, wie etwa die Reinvestition von sämtlichen Gewinnen in die Forschung oder die Tätigkeit im Rahmen eines staatlich anerkannten Auftrags im öffentlichen Interesse.33 Das Vorliegen dieser Voraussetzungen hatten die Beklagten aber schon nicht behauptet.

Hinsichtlich einer potenziellen Einwilligung der Rechteinhaber stellte das Gericht klar, dass es sich bei KI-Training nicht um eine übliche und für den Rechtsinhaber erwartbare Nutzungsart handelt.34

Der die Liedtexte enthaltende Output könne zudem nicht durch die Schrankenbestimmungen der §§ 51 ff. UrhG gedeckt werden.35 Einem zulässigen Zitat (§ 51 UrhG) fehle es dabei an der notwendigen geistigen Auseinandersetzung durch das Modell.36 Auch ein Pastiche (§ 51a UrhG) scheide aus, da es an einer künstlerischen Auseinandersetzung fehle.37 Ein Rückgriff auf die Privatkopie-Schranke des § 53 UrhG komme nicht in Betracht, da diese nur zu Gunsten von natürlichen Personen eingreife.38

Für die Eröffnung des Schutzbereichs des allgemeinen Persönlichkeitsrechts sah das Gericht keinen Bedarf, insbesondere, da lediglich die Sozialsphäre des Urhebers betroffen sei und in Bezug hierauf keine schwerwiegenden Eingriffe erfolgten.39

2. Datenschutzrecht – KI-Training mit öffentlich zugänglichen Daten auf Grundlage berechtigter Interessen

Das OLG Köln hatte sich mit der einstweiligen Verfügung eines Verbraucherverbandes gegen einen Betreiber einer Social-Media-Plattform zu befassen.40 Der Verfügungsbeklagte beabsichtigte, von erwachsenen Nutzern gepostete Inhalte für das Training seines KI-Modells zu verwenden.41 Das OLG Köln lehnte den Antrag auf Erlass einer einstweiligen Verfügung ab, mit der dem Verfügungsbeklagten das Training seines KI-Modells untersagt werden sollte.42 Ein Datenschutzverstoß liege (bei summarischer Prüfung) nicht vor, da sich der Verfügungsbeklagte auf den Rechtfertigungsgrund des Art. 6 Abs. 1 lit. f DSGVO berufen könne.43 Das Training des KI-Modells stelle ein berechtigtes Interesse dar. Die Interessen der Betroffenen würden im konkreten Fall auch nicht dieses berechtigte Interesse überwiegen.44

Im Rahmen der vorzunehmenden Abwägung stellte das Gericht maßgeblich darauf ab, ob die Betroffenen vernünftigerweise mit der Verarbeitung ihrer personenbezogenen Daten für das KI-Training rechnen mussten, sowie darauf, welche Folgen die Verarbeitung für die Betroffenen hat.45 Im Hinblick auf öffentlich in den Nutzerkonten einsehbare Daten nahm das Gericht nur eine geringe Eingriffsintensität an, da die Daten ohnehin schon öffentlich waren.46 Zudem stellte das Gericht darauf ab, dass die Daten grundsätzlich nicht vollständig in dem trainierten Modell enthalten bleiben, sondern lediglich als „Parameter für Wahrscheinlichkeitsberechnungen“.47 Als weiteren wichtigen Faktor für die Zulässigkeit der Verarbeitung sah das Gericht, dass der Verfügungsbeklagte Maßnahmen ergriffen hatte, um die Eingriffsintensität abzumildern, insbesondere Maßnahmen zur De-Identifizierung der Datensätze sowie technische und organisatorische Maßnahmen, um einen unberechtigten Zugriff auf die Trainingsdaten zu verhindern.48 Ferner berücksichtigte das Gericht auch die den Nutzern eingeräumte Möglichkeit, der Aufnahme ihrer Daten in den Trainingsdatensatz zu widersprechen.49 Zudem stellte das Gericht im Rahmen der Ermittlung der vernünftigen Erwartungen der Betroffenen klar, dass die bloße Praxis großer KI-Unternehmen, Daten für die Zwecke des KI-Trainings schlicht mittels Web-Scraping „abzugreifen“, nicht prägend für die berechtigten Erwartungen der Betroffenen sei.50 Im Rahmen der Interessenabwägung berücksichtigte das Gericht zudem das vom Europäischen Gesetzgeber ausgegebene Ziel, eine führende Rolle bei der Entwicklung von KI einzunehmen.51

Auch ein Verarbeitungsverbot nach Art. 9 DSGVO nahm das Gericht nicht an.52 Hierfür stützte es sich auf die Ausnahme des Art. 9 Abs. 2 lit. e DSGVO, wonach das Verarbeitungsverbot nicht eingreift, wenn die betroffene Person die Daten offensichtlich öffentlich gemacht hat.53 Auch hier argumentierte das Gericht mit der Veröffentlichung durch die Betroffenen selbst, sofern diese ihr Profil auf „öffentlich“ gestellt hatten.54 In Bezug auf personenbezogene Daten Dritter, die nicht selbst Nutzer des sozialen Netzwerks waren, verneinte das Gericht bereits die Anwendbarkeit des Art. 9 Abs. 1 DSGVO.55 In Übertragung der Rechtsprechung des EuGH zu Suchmaschinenanfragen nahm das Gericht an, dass es einer „Aktivierung“ des Verarbeitungsverbots durch einen entsprechenden Antrag des Betroffenen bei dem Betreiber des sozialen Netzwerks auf Entfernung seiner Daten aus dem Trainingsdatensatz bedurft hätte.56 Das Gericht wies dabei aber ausdrücklich auf die Möglichkeit einer im Hauptsacheverfahren zu prüfenden Vorlage an den EuGH hin.57

3. Patentrecht – Keine erfinderische Tätigkeit durch Einsatz von KI und Blockchain

Gegenstand des Beschlusses des Bundespatentgerichts war eine Patentanmeldung, die ein computerimplementiertes Verfahren zur Qualitätssicherung von Produkten beanspruchte, bei dem Zustandsdaten mittels KI ausgewertet und Entscheidungen sowie daraus abgeleitete Handlungen zusätzlich in einer Blockchain gespeichert werden sollten.58 Das Deutsche Patent- und Markenamt hatte die Anmeldung mangels erfinderischer Tätigkeit zurückgewiesen, wogegen sich die Anmelderin mit der Beschwerde zum Bundespatentgericht wandte.59

Das Bundespatentgericht wies die Beschwerde vollumfänglich zurück und bestätigte die Zurückweisung der Patentanmeldung. Das Gericht verneinte sowohl die Neuheit als auch das Vorliegen einer erfinderischen Tätigkeit für sämtliche Anspruchsfassungen, die den Einsatz von KI und deren Kombination mit einer Blockchain weiter konkretisieren sollten.60

Die durch die KI getroffenen „Entscheidungen“ (etwa zur Einhaltung oder Verletzung von Qualitätsvorgaben) ordnete das Gericht als typische Ergebnisse datenbasierter Auswertungen ein, die dem Stand der Technik zuzurechnen seien.61 Dass diese Entscheidungen automatisiert erfolgen und menschliches Handeln ersetzen oder unterstützen, wertete das Gericht als Zielsetzung moderner Automatisierungs- und Datenverarbeitungssysteme, nicht jedoch als Indiz für erfinderische Tätigkeit. Auch die beanspruchte Auslösung von Handlungen durch die KI sah das Gericht als funktional naheliegend an und nicht als technisch neuartigen Steuerungsmechanismus.62 Das Gericht verneinte einen erfinderischen Mehrwert ebenso hinsichtlich der Kombination von KI mit einer Blockchain, da die Nutzung einer Blockchain zur fälschungssicheren Speicherung von Systemzuständen, Entscheidungen oder Handlungen ein bekanntes Mittel zur Datensicherung und Nachvollziehbarkeit darstelle. Die Speicherung von KI-bezogenen Daten in einer Blockchain sei daher für den Fachmann naheliegend.63 Gleiches gilt für weitergehende Konzepte, etwa die Nutzung gespeicherter Daten zur Fehleranalyse, zur nachträglichen Überprüfung von Entscheidungen oder zur Optimierung der KI.64 Das Gericht stellte klar, dass insbesondere das kontinuierliche Training und die Weiterentwicklung von KI-Modellen zum allgemeinen Fachwissen gehören und daher keinen eigenständigen erfinderischen Gehalt begründen können.65

Das Gericht hielt damit fest, dass KI nicht als privilegierte Technologie anzusehen ist, sondern sich an den allgemeinen (technologieneutralen) patentrechtlichen Anforderungen messen lassen muss. Schutzfähig ist nicht der Einsatz von KI als solcher, sondern allenfalls eine konkretisierte technische Lösung, die auf einer erfinderischen Tätigkeit beruht und die erforderliche Neuheit aufweist.

4. Anwaltliches Berufsrecht – Verstoß gegen anwaltliches Sachlichkeitsgebot durch KI-halluzinierte Fundstellen

Das AG Köln sah sich in einem familienrechtlichen Umgangsverfahren mit offenbar KI-halluzinierten Fundstellen konfrontiert.66 In dem Verfahren reichte der Verfahrensbevollmächtigte des Kindsvaters einen Schriftsatz ein, der umfangreiche rechtliche Ausführungen und angebliche Fundstellen enthielt, die tatsächlich nicht existierten. In diesem waren mehrere der angeführten Fundstellen, Literaturverweise und angebliche Rechtssätze frei erfunden. Zudem waren die zitierten Kommentare falsch zugeordnet, Auflagen und Erscheinungsjahre unrichtig, Randnummern nicht existent und zitierte Gerichtsentscheidungen thematisch unzutreffend oder vollständig fiktiv.67

Das Gericht rügte mit deutlichen Worten das Vorgehen des Verfahrensbevollmächtigten und wies ihn darauf hin, dass das Einreichen eines KI-generierten Schriftsatzes mit erfundenen Fundstellen einen Verstoß gegen das anwaltliche Sachlichkeitsgebot des § 43a Abs. 3 BRAO darstellen kann.68 Die Entscheidung des AG Köln macht einmal mehr zwei Dinge sehr deutlich: Zum einen scheint die nicht selten unreflektierte Nutzung von KI-Tools sämtliche Branchen und Berufsgruppen zu durchziehen – auch und gerade die Anwaltschaft hat sich diesem Problem zu stellen. Zum anderen wirft die Entscheidung des Gerichts auch unmittelbar die Frage nach den haftungsrechtlichen Konsequenzen des unsachgemäßen Einsatzes von KI auf – eine Frage, deren Klärung auch in Zukunft eine große Relevanz zukommen wird.69

5. Schulrecht – Unzulässige Nutzung generativer KI als Täuschungsversuch

Das VG Hamburg hatte im Wege des einstweiligen Rechtsschutzes über die Bewertung eines Schülerlesetagebuchs mit der Note „ungenügend“ (6) zu entscheiden.70 Ein Schüler der neunten Klasse eines Hamburger Gymnasiums wandte sich im Wege des einstweiligen Rechtsschutzes gegen die Bewertung eines englischsprachigen Lesetagebuchs als Täuschungsversuch, nachdem er bei dessen Erstellung ein generatives KI-System genutzt hatte.71

Das Gericht lehnte den Antrag auf Erlass einer einstweiligen Anordnung ab und bestätigte die Bewertung des Lesetagebuchs mit der Note „ungenügend“ wegen eines Täuschungsversuchs.72 Zugleich betonte das Gericht, dass die Nutzung von generativer KI in einer bewerteten schulischen Arbeit ohne ausdrückliche Zulassung grundsätzlich eine Täuschungshandlung darstellt.73 Schüler müssten in Prüfungssituationen davon ausgehen, dass sie die Prüfungsleistung vollumfänglich selbstständig zu erbringen haben und keine Hilfsmittel nutzen dürfen, die sich auf die Eigenständigkeit der Prüfungsleistung auswirken. Jedenfalls für das im konkreten Fall verwendete Hilfsmittel KI-System ging das Gericht von einer nicht unerheblichen Auswirkung auf die Eigenständigkeit aus.74 Nach allgemeinen Grundsätzen trägt die Prüfungsbehörde die Beweislast für einen Täuschungsversuch.75 Aufgrund des Auseinanderfallens des Leistungsniveaus der betroffenen Prüfungsleistung im Vergleich zu anderen erbrachten Leistungen des Schülers nahm das Gericht aber einen Anscheinsbeweis zugunsten der Prüfungsbehörde an.76 Hinsichtlich des Täuschungsvorsatzes ging das Gericht zumindest von einem bedingten Vorsatz aus, da der betroffene Schüler das Erfordernis der Eigenständigkeit bereits der Aufgabenstellung („use your own words“) entnehmen konnte und zudem mündlich im Vorhinein auf die Unzulässigkeit der Nutzung durch eine Lehrkraft hingewiesen worden war.77 Dafür, dass andere Schüler bei ihren Prüfungsleistungen möglicherweise auch KI-Systeme eingesetzt hatten, sah das Gericht keine Anhaltspunkte und verneinte folgerichtig mangels Willkür einen Verstoß gegen den Gleichheitsgrundsatz aus Art. 3 Abs. 1 GG.78

6. Vergütungsrecht Sachverständige – Kein Vergütungsanspruch für überwiegend KI-generiertes Gutachten

Wie viel ist das Gutachten eines Sachverständigen wert, für dessen Erstellung in erheblichem Umfang KI verwendet wurde? Die Antwort des LG Darmstadt fiel eindeutig aus: Nichts.79 Im konkreten Fall hatte sich das Gericht mit dem medizinischen Gutachten eines Sachverständigen zu befassen, für das dieser eine Vergütung nach dem Gesetz über die Vergütung von Sachverständigen, Dolmetscherinnen, Dolmetschern, Übersetzerinnen und Übersetzern sowie die Entschädigung von ehrenamtlichen Richterinnen, ehrenamtlichen Richtern, Zeuginnen, Zeugen und Dritten (Justizvergütungs- und -entschädigungsgesetz – JVEG) geltend machte.80 Dabei bestanden aber erhebliche Zweifel daran, ob das Gutachten (wie es § 407a ZPO verlangt) durch den Sachverständigen selbst erstellt wurde oder ob es im Wesentlichen unter Einsatz von KI entstanden war.

Nach Auffassung des Gerichts war das Gutachten überwiegend mit Hilfe von KI erstellt worden. Dafür stützte sich das Gericht vor allem auf formale Aspekte: So bestünde der Text des Gutachtens fast ausschließlich aus „Hauptsätzen mit denselben Satzanfängen, was ein häufiges KI-Muster“ sei.81 Zudem weise das Gutachten auf einigen Seiten Formatierungsfehler auf, bei denen sich zudem ein „vollständig anderer Schreibstil“ zeige.82 Diese Punkte veranlassten das Gericht letztlich zu der Überzeugung, dass das Gutachten nicht durch den Sachverständigen persönlich, sondern mittels KI erstellt wurde.83 Dies, hatte der Sachverständige entgegen § 407a Abs. 3 ZPO nicht angezeigt.84 Folglich war das Gutachten nicht verwertbar, und die Vergütung aufgrund des Verstoßes gegen § 407a Abs. 1 und Abs. 3 ZPO nach § 8a Abs. 2 S. 1 Nr. 1 JVEG auf Null festzusetzen.85

7. Äußerungsrecht – Haftung für unwahre Tatsachenbehauptungen in KI-generierten Social-Media-Beiträgen

Mit KI-generierten Inhalten hatte sich auch das LG Hamburg auseinanderzusetzen: Über einen deutschsprachigen Social-Media-Account wurden automatisiert durch KI generierte Beiträge veröffentlicht.86 Diese erweckten den Eindruck, ein deutscher Verein erhalte staatliche Fördermittel.87 Dagegen wandte sich der betroffene Verein und nahm den Betreiber des Accounts im einstweiligen Rechtsschutz auf Unterlassung in Anspruch.88

Das Gericht gab dem Unterlassungsantrag statt und bejahte einen entsprechenden Anspruch aus §§ 1004 Abs. 1 S. 2 analog, 823 Abs. 1 BGB.89 Dabei stellte das Gericht maßgeblich darauf ab, dass es sich bei dem Beitrag um eine unwahre Tatsachenbehauptung handelte. An der äußerungsrechtlichen Unzulässigkeit dieses Beitrags ändere es auch nichts, dass der Beitrag von einer KI erstellt wurde. Es sei nicht davon auszugehen, dass Nutzer KI-generierte Inhalte nicht als Tatsachenbehauptungen ansehen würden, schon weil die KI selbst darauf hinweise, dass die Beiträge „faktenbasiert“ erstellt würden. Die automatisierte Erstellung der Äußerungen durch eine KI entlaste den Betreiber des Accounts nach Auffassung des Gerichts nicht von der äußerungsrechtlichen Verantwortung, da dieser sich die Aussagen der KI „durch die Präsentation auf dem Account jedenfalls zu eigen“ mache.90

8. Kartellrecht – Keine unbillige Behinderung durch KI-generierte Übersichten in Suchergebnissen

Das LG Frankfurt hatte sich im einstweiligen Verfügungsverfahren mit KI-generierten Zusammenfassungen im Rahmen von Suchergebnissen zu befassen.91 Die Antragstellerin, ein Verbund aus Ärzten bzw. medizinischen Dienstleistern im Bereich plastisch-chirurgischer Eingriffe, wandte sich gegen eine von der Antragsgegnerin angezeigte „KI-Übersicht“. Diese enthielt bei der Suche nach einem bestimmten Begriff eine durch KI generierte Beschreibung des operativen Vorgehens, die nach Auffassung der Antragstellerin medizinisch unzutreffend und geschäftsschädigend sei. Dagegen wandte sich die Antragstellerin und machte Unterlassungsansprüche nach §§ 33, 19 Abs. 1 GWB bzw. Art. 6 Abs. 5 DMA geltend.92 Nach § 33 GWB ist, wer unter anderem gegen § 19 GWB verstößt, zur Beseitigung bzw. Unterlassung verpflichtet. § 19 Abs. 1, Abs. 2 Nr. 1 GWB verbietet den Missbrauch einer marktbeherrschenden Stellung durch unbillige Behinderung eines anderen Unternehmens.

Das Gericht sah in der KI-Übersicht zwar eine Behinderung des Antragstellers, diese sei im konkreten Fall jedoch nicht unbillig.93 Nach Auffassung des Gerichts kann eine objektiv falsche Angabe in einer KI-generierten Übersicht grundsätzlich eine Unbilligkeit begründen, insbesondere weil bei gesundheitsbezogener Werbung aufgrund der damit verbundenen hohen Gefahren für das Schutzgut des Einzelnen besonders strenge Anforderungen an die „Richtigkeit, Eindeutigkeit und Klarheit“ der Aussage zu stellen sind.94 Im Gesamtkontext der Äußerung sei die Beschreibung aus Sicht eines durchschnittlich aufmerksamen Nutzers jedoch nicht objektiv falsch, sondern entspreche dem typischen medizinischen Vorgehen.95

Auch einen Anspruch aus § 33 GWB i. V. m. Art. 6 Abs. 5 DMA lehnte das Gericht ab. Gemäß Art. 6 Abs. 5 DMA darf ein sogenannter „Torwächter“ eigene Dienstleistungen bei einem Ranking und der Indexierung nicht bevorzugen. Eine solche Bevorzugung erkannte das Gericht in der KI-Übersicht jedoch nicht, da diese lediglich einen Teil des Suchergebnisses darstelle und nicht das „Angebot oder den Verweis auf andere, eigene Produkte.“96

Mangels Unbilligkeit bewusst offen gelassen hat das Gericht die Frage, ob die „KI-Übersicht“ als eigene Äußerung der Suchmaschinenbetreiberin oder lediglich als technisch vermittelte Zusammenfassung fremder Inhalte zu qualifizieren ist.97

II. Teil 2: Aktuelle gesetzgeberische Entwicklungen und Ausblick

1. Inkrafttreten der KI-Verordnung

Die EU hat im Jahr 2024 die VO (EU) 2024/1689 – bekannt als KI-Verordnung – verabschiedet. Während die meisten Verpflichtungen für Anbieter sog. Hochrisiko-KI-Systeme erst ab dem 2. 8. 2026 gelten, traten erste einschneidende Regelungen bereits am 2. 2. 2025 in Kraft: So verbietet Art. 5 KI-VO seitdem das Bereitstellen oder Verwenden bestimmter KI-Systeme mit „unannehmbarem Risiko“, z. B. KI zur unterschwelligen Manipulation, Ausnutzung von Kindern oder vulnerablen Gruppen, Social Scoring oder prognostische KI-Systeme zur Strafverfolgung („Predictive Policing“).98 Daneben gelten auch die Vorgaben nach Art. 4 KI-VO zur KI-Kompetenz bereits, durch die sichergestellt werden soll, dass Anbieter und Betreiber von KI-Systemen ihr Personal ausreichend im Einsatz von KI schulen.99 Wie die Vielzahl von Urteilen aus dem vergangenen Jahr nahelegt, die sich explizit mit dem unsachgemäßen und unreflektierten Einsatz von KI beschäftigt, dürfte es bei der Schaffung ausreichender „KI-Kompetenz“ durchaus noch einiges an Nachholbedarf geben.

Um eine europaweit einheitliche Anwendung dieser Verbote sicherzustellen, veröffentlichte die EU-Kommission am 4. 2. 2025 ausführliche Leitlinien zu den verbotenen KI-Praktiken.100 Diese sollen insbesondere viele Begriffe, für die die KI-VO selbst keine Definitionen enthält (wie z. B. „unterschwellige Techniken“ oder „absichtlich manipulative Techniken“) näher konkretisieren und für die Praxis handhabbarer machen. Rechtlich bindend sind die Leitlinien jedoch nicht.101

2. Ausblick: Geplante Anpassungen im Rahmen der Digital Omnibus Verordnungen

Am 19. 11. 2025 hat die EU-Kommission ihren Vorschlag für eine „Digital Omnibus Verordnung“ veröffentlicht.102 Dieser zielt darauf ab, das digitale Regelwerk der EU zu entschlacken und zu vereinheitlichen. Die EU-Kommission reagiert damit auf Forderungen aus Politik und Wirtschaft, die wachsende Komplexität des digitalen Rechtsrahmens zu verringern. In den letzten Jahren wurden viele neue digitale Gesetze erlassen – vom Datenschutz über die Datenwirtschaft bis zur Cybersicherheit. Das hat zwar hohe Schutzstandards gebracht, aber auch Überlappungen, Unklarheiten und unnötigen Verwaltungsaufwand erzeugt.

Konkret soll im Rahmen der Digital Omnibus Verordnung eine Reihe bestehender Rechtsakte angepasst und teilweise zusammengeführt werden. Neben Änderungen an der DSGVO, dem Data Act, der NIS-2-Richtlinie sowie der E-Privacy Richtlinie (RL 2002/58/EG), sieht der Vorschlag auch Änderungen an der KI-Verordnung vor. Diesen hat die EU-Kommission einen separaten Legislativvorschlag103 (Digital Omnibus Verordnung zur KI) gewidmet. An dieser Stelle soll nur auf die wesentlichen geplanten Änderungen der KI-Verordnung und der DSGVO eingegangen werden.

a) Geplante Anpassungen der KI-Verordnung

Der Kommissionsentwurf der Digital Omnibus Verordnung zur KI sieht die Anpassung einiger Umsetzungsfristen vor:

Aufgrund der verzögerten Verfügbarkeit von Normen, gemeinsamen Spezifikationen und alternativen Leitlinien, der verzögerten Einrichtung der zuständigen nationalen Behörden und des damit einhergehenden Risikos einer erheblichen Erhöhung der Umsetzungskosten sieht der Kommissionsentwurf der Digital Omnibus Verordnung zur KI den in der KI-Verordnung vorgesehenen Geltungsbeginn der Verpflichtungen für Hochrisiko-KI-Systeme am 2. 8. 2026 kritisch. Daher soll das Inkrafttreten der strengen Regeln für Hochrisiko-KI-Systeme an die Verfügbarkeit von Standards, gemeinsamen Spezifikationen oder Leitlinien geknüpft werden, wobei deren Verfügbarkeit durch einen Beschluss der Kommission bestätigt werden soll.104 Die Vorschriften für KI-Systeme, die gemäß Art. 6 Abs. 2 und Anhang III KI-VO als hochriskant eingestuft sind, sollen dann erst sechs Monate nach dem entsprechenden Beschluss der Kommission gelten. Die Vorschriften für KI-Systeme, die gemäß Art. 6 Abs. 1 und Anhang I als hochriskant eingestuft sind, sollen zwölf Monate nach Annahme des Beschlusses greifen. Dadurch soll der Start der Hochrisiko-Vorgaben aufgeschoben werden können, sodass Unternehmen mehr Zeit für Compliance-Maßnahmen bleibt.105

Um Anbietern generativer KI-Systeme, die den Kennzeichnungspflichten gemäß Art. 50 Abs. 2 KI-VO unterliegen, ausreichend Zeit einzuräumen, um ihre Systeme an die rechtlichen Vorgaben anzupassen, soll die Kennzeichnungspflicht für KI-generierte Audio-, Bild- und Textinhalte für Anbieter, die ihre Systeme bereits vor dem 2. 8. 2026 in Verkehr gebracht haben, erst nach einem Übergangszeitraum von sechs Monaten gelten.106

Aus demselben Grund sollen auf Betreiber von Hochrisiko-KI-Systemen, die bereits vor dem Beginn der Anwendung der Vorschriften über Hochrisiko-KI-Systeme in Verkehr gebracht oder in Betrieb genommen wurden, die Vorschriften der KI-Verordnung grundsätzlich nur Anwendung finden, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.107

Die KI-Verordnung erkennt an, dass die Umsetzung ihrer Vorgaben gerade für kleine und mittlere Unternehmen mit erheblichen finanziellen Belastungen verbunden ist. Da die Umsetzung aber auch für Unternehmen, die keine KMUs mehr sind („kleine Midcap-Unternehmen“) mit erheblichem Verwaltungsaufwand verbunden ist, will die Digital Omnibus Verordnung zur KI auch hier Entlastung schaffen und die Privilegien von KMUs in Bezug auf die technische Dokumentation und die Einrichtung eines Qualitätsmanagementsystems, das ihrer Größe Rechnung trägt, auf kleine Midcap-Unternehmen erstrecken.108

Um eine reibungslose Durchführung der KI-VO zu erleichtern und eine einheitliche Aufsicht zu gewährleisten, sollen darüber hinaus die Befugnisse der neu geschaffenen europäischen KI-Aufsichtsbehörde („AI Office“) gestärkt werden.109 Unter anderem soll für KI-Systeme, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen oder die in sehr große Online-Plattformen und sehr große Suchmaschinen eingebettet sind, die Aufsicht beim AI Office zentralisiert werden.110

Zudem sollen Unternehmen auch nach Art. 4a Abs. 2 KI-VO-E zur Erkennung und Korrektur von Verzerrungen besondere personenbezogene Daten verarbeiten dürfen, wobei sie aber angemessene Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten natürlicher Personen zu treffen haben sollen.111 

b) Geplante Anpassungen der DSGVO

Das Training von KI-Modellen benötigt große Mengen an Daten, häufig einschließlich personenbezogener Daten. Der Digital Omnibus reagiert auf dieses Bedürfnis: Ein neu einzufügender Art. 88c DSGVO-E sieht vor, dass die Verarbeitung personenbezogener Daten im Zusammenhang mit der Entwicklung und dem Betrieb eines KI-Systems im Sinne der KI-Verordnung oder eines KI-Modells unter bestimmten Voraussetzungen ein berechtigtes Interesse des Verantwortlichen darstellen kann.112 Voraussetzung dafür soll aber sein, dass eine solche Verarbeitung geeigneten organisatorischen, technischen Maßnahmen und Garantien für die Rechte und Freiheiten der betroffenen Person unterliegt und den betroffenen Personen ein bedingungsloses Widerspruchsrecht gegen die Verarbeitung ihrer personenbezogenen Daten eingeräumt wird.113

Darüber hinaus soll mit Art. 9 Abs. 2 lit. k DSGVO-E eine weitere Ausnahme für die Verarbeitung besonderer Kategorien personenbezogener Daten geschaffen werden. Danach soll das Verbot nicht bestehen, wenn die Verarbeitung im Zusammenhang mit der Entwicklung und dem Betrieb eines KI-Systems im Sinne der KI-Verordnung oder eines KI-Modells erfolgt.114 Auch hier soll aber Voraussetzung sein, dass „geeignete organisatorische und technische Maßnahmen getroffen [werden], um die Erhebung und sonstige Verarbeitung besonderer Kategorien personenbezogener Daten zu vermeiden.“115 Sind solche Daten dennoch im KI-System oder KI-Modell enthalten, sollen sie nur dann entfernt werden müssen, wenn dies keinen unverhältnismäßigen Aufwand für den Verantwortlichen verursacht.116 Liegt ein unverhältnismäßiger Aufwand vor, reicht hingegen der Schutz vor der Weitergabe an Dritte.117

Prof. Dr. Fabian Pfuhl
studierte an der Universität Bayreuth, wo er später auch zu einem wettbewerbsrechtlichen Thema promovierte. Seit 2011 ist er als Rechtsanwalt bei der internationalen Kanzlei Hogan Lovells am Standort Frankfurt tätig. Dort verantwortet er den Bereich IPMT. Technologie-, insbesondere AI-Themen bilden seinen Beratungsschwerpunkt. Er ist Co-Autor des Praxishandbuchs KI und Daten.

Felix Ackermann
studierte an der Universität Heidelberg. Seit 2022 ist er als Rechtsanwalt bei der internationalen Kanzlei Hogan Lovells am Standort Frankfurt tätig. Dort berät er im Bereich des Technologie‑ und Digitalrechts mit Schwerpunkt im Datenrecht sowie in rechtlichen Fragestellungen rund um künstliche Intelligenz und digitale Geschäftsmodelle.

---