Wer halluziniert? Und wenn ja: Wie viele?

Dass Künstliche Intelligenz (auch) die Rechtsberatung und die Rechtsprechung verändern wird, ist mittlerweile – zumindest in der vom Verfasser frequentierten Bubble – ein Allgemeinplatz. Kaum eine Fachzeitschrift oder juristische Konferenz kommt ohne Beiträge zu KI und/oder KI-Agenten aus. Gleichwohl ist der Kenntnisstand von Jurist:innen in Bezug auf KI und die Raffinesse in ihrer Nutzung in der Mandatsbearbeitung sehr divers. Klar ist: Der professionelle und gekonnte Einsatz von KI kann die Erstellung von Schriftsätzen effizienter machen und deren Qualität verbessern. Klar ist aber auch: Der unbedachte Einsatz von KI kann dazu führen, dass Verfahrensbeteiligte Gerichten durch Halluzinationen, die sich sowohl auf Tatsachen- als auch Rechtsausführungen beziehen können, erhebliche Mehrarbeit bereiten.

Die Rechtsprechung hat zu dem neuen Phänomen der KI-Halluzinationen schon mehrfach Stellung genommen: So setzt sich das OLG Celle (Beschl. v. 29. 4. 2025, Az. 5 U 1/25) detailliert mit den in der Berufungsbegründung der Beklagten genannten Fundstellen für Gerichtsverfahren auseinander und hält wiederholt fest: „Die von der Beklagten genannte Fundstelle kann der Senat nicht überprüfen, da es sich insoweit um ein Fehlzitat handelt, das weder bei juris noch bei beck-online unter den genannten Parametern (Datum/Aktenzeichen/Fundstelle) aufrufbar ist.“ Im Fall des AG Köln (Beschl. v. 2. 7. 2025, Az. 312 F 130/25) hatte die KI des Antragsgegnervertreters nicht nur gerichtliche Fundstellen, sondern auch Literaturfundstellen frei erfunden. Dem LG Frankfurt a. M. (Beschl. v. 25. 9. 2025, Az. 2-13 S 56/24, K&R 2026, 135 ff.) wurden nicht nur halluzinierte Fundstellen, sondern gar „drei ausführliche, mit Anführungszeichen als wörtlich wiedergegebene Zitate gekennzeichnete BGH-Entscheidungen“ vorgelegt. Die Kammer meint: „[…] es [dürfte] zu den Grundpflichten anwaltlicher Tätigkeit gehören, dass man weder Fundstellen im Volltext erfindet, noch von einem Chatbot vorgeschlagene Textquellen ungeprüft in einen Schriftsatz übernimmt. Die Unzuverlässigkeit juristischer Aussagen derartiger Systeme muss einem Rechtsanwalt bekannt sein (vgl. nur Herrlein/Gelück NZM 2023, 513; 2023, 737; Conrads/Schweitzer NJW 2023, 2809; 2025, 2888). Die Rechtspflege leidet schweren Schaden, wenn der Rechtsanwalt bei den zitierten Entscheidungen nicht bei der Wahrheit bleibt und das Gericht den derartigen Ausführungen nicht vertrauen kann (vgl. Henssler/Prütting/Henssler, 6. Aufl. 2024, BRAO § 43a Rn. 187, 190).“ Dem LG Frankfurt a. M. ist selbstredend beizupflichten. Der Einsatz von KI erfasst aber nicht nur die Überprüfung der ausgeworfenen Fundstellen, sondern berührt viele weitere anwaltliche Berufspflichten wie etwa die Verschwiegenheits- und Fortbildungspflicht (vgl. hierzu ausführlich: Kilian DStR 2026, 680 ff. und 746 ff.).

Aber nicht nur Prozessbevollmächtigte, sondern auch ein Sachverständiger ist schon mit unbeholfenem KI-Einsatz aufgefallen. So arbeitete das LG Darmstadt (Beschl. v. 10. 11. 2025, Az. 19 O 527/16, K&R 2026, 135 ff.) heraus, dass die Anfertigung eines Gutachtens unter weitgehender Heranziehung einer KI dazu führt, dass das Gutachten entgegen § 407a Abs. 1 ZPO nicht persönlich erstattet wurde. Da insoweit erhebliche Zweifel am Umfang der „KI-Arbeit“ bestünden, sei das Gutachten insgesamt nicht verwertbar. Dem Sachverständigen wurde die Vergütung auf 0,00 EUR gekürzt.

Auf der Seite www.ki-vor-gericht.de werden alle Fälle, in denen ein Einsatz von KI vor Gericht offenbar geworden ist, aufgelistet, im Volltext verlinkt, zusammengefasst und mit weiterführenden Literaturempfehlungen versehen.

In dem beruflichen Netzwerk LinkedIn liest man immer wieder von kuriosen Fällen – etwa, wenn zwei Naturalparteien vor dem AG umfangreiche KI-Schriftsätze eingereicht oder ein Prozessbevollmächtigter auf sechzig Seiten Schriftsatz fünfzig unauffindbare Gerichtsfundstellen präsentiert haben soll. Daher die Bitte: Wenn Ihnen ein entsprechender „KI-Fall“ vor Gericht begegnet, tragen Sie ihn gerne auf www.ki-vor-gericht.de ein! Nur so kann eine umfassende Datenbasis geschaffen werden, um die in der Überschrift aufgeworfenen Fragen zu beantworten und eine belastbare Analyse des (fehlgeschlagenen) Einsatzes von KI in Gerichtsverfahren zu ermöglichen, die nicht nur auf anekdotischer Evidenz beruht.

Prof. Dr. Simon J. Heetkamp, LL.M.*