Künstliche Intelligenz und richterliche Entscheidungsfindung - Präsentation des ersten Meilensteins

In einem gemeinsamen, interdisziplinären Forschungsprojekt untersuchen die Georg-August-Universität Göttingen und das Niedersächsische Justizministerium (MJ) die rechtlichen, technischen und fachlich-organisatorischen Rahmenbedingungen für die Unterstützung der richterlichen Arbeit durch künstliche Intelligenz (KI). Die universitäre Forschung begleitet einen in der Praxis stattfindenden Entwicklungsprozess, der insbesondere in zivilgerichtlichen Massenverfahren gewinnbringend eingesetzt werden könnte. Am vergangenen Dienstag (19.8.2025) haben die Teilprojektleiter Dr. Valentin Gold (Sozialwissenschaftliche Fakultät) und Prof. Dr. Philipp Reuß (Juristische Fakultät) die Erkenntnisse des ersten Meilensteins des Forschungsprojekts präsentiert. Dieser erste Meilenstein befasst sich mit den technisch-ethischen und den rechtlichen Rahmenbedingungen des KI-Einsatzes.

Aus technisch-ethischer Sicht hat die Untersuchung auf Basis der in der von Correa et al. (Corrêa/Galvão/Santos/Del Pino et al., Patterns 2023, 100857) vorgelegten Metastudie herausgearbeiteten 17 ethischen Prinzipien und einem Abgleich mit einschlägigen Regelwerken eine Clusterung entwickelt, die diese Prinzipien in (1) fundamentale Schutzprinzipien (Menschenwürde und Menschenrechte; Freiheit, Autonomie und demokratische Werte; menschenzentrierte Ausrichtung), (2) Bedingungen für den legitimen Einsatz (Transparenz, Erklärbarkeit und Nachvollziehbarkeit; Wahrhaftigkeit; Zuverlässigkeit, Sicherheit und Vertrauenswürdigkeit; Gerechtigkeit, Inklusion und Nicht-Diskriminierung; Datenschutz; Rechte von Kindern und Jugendlichen; Aufklärung der Nutzerinnen und Nutzer; Verantwortung, Haftung und Rechenschaftspflicht), (3) Systemische Rahmenbedingungen (Technologische Souveränität; Nachhaltigkeit; Arbeitsrechte; Open Source, fairer Wettbewerb und Kooperation; geistiges Eigentum) und (4) Prinzipien mit unklarem oder unterstützendem Status (Bildung, d.h. Aufklärung über Funktionsweisen, Risiken und Grenzen von KI-Systemen) einteilt. Die Zuordnung zu einem bestimmten Cluster erfolgt auf Grundlage normativer Unverhandelbarkeit und Operationalisierbarkeit des jeweiligen Prinzips, verstanden als ethischer Mindeststandard.

Die Zulässigkeit des Einsatzes von KI in der jeweiligen Funktionalität hängt aus technisch-ethischer Sicht maßgeblich von drei Faktoren ab: dem funktionalen Charakter der Tätigkeit (administrativ oder inhaltlich-normativ), dem Grad der Automatisierung sowie der Komplexität des jeweiligen Anwendungsfeldes. Angesichts dieser Faktoren haben die Forscher in ihrer Untersuchung kritische Einsatzkonstellationen identifiziert, für die sich diverse operative Einsatzgrenzen ergeben.

Aus zivilverfahrensrechtlicher Sicht lassen sich die wesentlichen Anforderungen und Grenzen wie folgt zusammenfassen: Verfassungsrechtliche, menschenrechtliche, europarechtliche und originär zivilprozessuale Rahmenbedingungen stehen einem Einsatz informationstechnischer Systeme in der richterlichen Entscheidungsfindung nicht grundsätzlich entgegen, auch wenn teilweise rechtliche Anpassungen notwendig wären, um einen Einsatz zu ermöglichen. Auch ein entscheidungsersetzender Einsatz, d.h. ein vollautomatisierter Entscheidungsfindungsprozess ist nach den Forschungserkenntnissen vorstellbar, auch wenn aufgrund der Limitierungen informationstechnischer Systeme derzeit lediglich in engen Grenzen, d.h. in sehr einfach gelagerten Fallkonstellationen, die weder komplexe Tatsachen- noch Rechtsfragen involvieren und damit einer mathematisch-logischen Rechenoperation gleichkommen. Als Anwendungsfall wurden beispielsweise Fluggastrechteverfahren identifiziert, die über ein regelbasiertes System in einem ausdifferenzierten Entscheidungsbaum abgebildet werden können. In komplexeren Fallgestaltungen ist ein entscheidungsersetzender Einsatz derzeit aufgrund der Limitierungen informationstechnischer Systeme unzulässig. Auch sonst ergeben sich zahlreiche rote Linien und rechtliche Anforderungen, so beispielsweise das Erfordernis menschlicher Aufsicht und Kontrolle oder auch das Erfordernis von Transparenz.

Art und Umfang der konkreten Einsatzgrenzen und die Erfordernisse zu deren Einhaltung sind auch aus rechtlicher Sicht von den bereits zuvor genannten drei wesentlichen Faktoren abhängig: dem funktionalen Charakter der Tätigkeit (rein administrative oder inhaltliche Funktionalität), dem Grad der Automatisierung und der Komplexität des jeweiligen Anwendungsfeldes. Je höher der Grad der Automatisierung, je komplexer das Anwendungsfeld, je stärker die inhaltliche Funktionalität, desto höher die Anforderungen zur Einhaltung der rechtlichen Rahmenbedingungen.

Der ausführliche Abschlussbericht ist abrufbar unter folgendem Link: https://reusz.eu/upload/maki_m1_abschlussbericht.pdf