Künstliche Intelligenz in der richterlichen Entscheidungsfindung - eine interdisziplinäre Analyse

Forschungsprojekt zu Massenverfahren und Künstlicher Intelligenz (MAKI)

Projektbeschreibung

Das Niedersächsische Justizministerium (MJ) untersucht in einem Forschungsprojekt die rechtlichen, technischen und fachlich-organisatorischen Rahmenbedingungen für die Unterstützung der richterlichen Arbeit durch künstliche Intelligenz (KI). Aus dem Forschungsprojekt sollen verallgemeinert Handlungsempfehlungen für den (zukünftigen) KI-Einsatz abgeleitet werden.

In einem ersten Schritt soll ein in die richterliche Fallbearbeitung und in die Arbeitsplatzumgebung (e-Akte, Fachverfahren, Textsystem) integriertes Unterstützungssystem entwickelt und getestet werden, das basierend auf individuellen Vorgaben fundierte Entscheidungs- und Verfügungshilfen anbietet. Es soll ein generischer, auf jede Fallkonstellation übertragbarer Assistent realisiert werden, der Richterinnen und Richter insbesondere bei der Bearbeitung von Massenverfahren bei gleichförmigen Arbeitsschritten entlastet und eine Stapelverarbeitung gleichgelagerter Fälle ermöglicht. Dabei sollen Erkenntnisse über zwei unterschiedliche KI-Modelle gewonnen werden:

  • Modell 1 sieht die Auswahl indikativer Merkmale in der Akte voraus
  • Modell 2 erkennt die indikativen Merkmale im Rahmen der Mustererkennung selbst.

Eine Erprobung der Systeme erfolgt an angebundenen Testgerichten. Für die Entwicklung und die technische Umsetzung des Assistenzsystems hat MJ die Firma SINC GmbH als Kooperationspartner gewonnen, die auch das e-Aktensystem der niedersächsischen Justiz entwickelt. Flankierend ist die frühzeitige Einbindung der Wissenschaft geplant, um die Akzeptanz und Rechtskonformität des geplanten Vorgehens abzusichern bzw. rechtliche und technische Grenzen des KI-Einsatzes zur Unterstützung der richterlichen Entscheidungsfindung aufzuzeigen.

    Kooperationspartner des MJ sind:
  • Dr. Valentin Gold (Technische Anforderungen)
    Sozialwissenschaftliche Fakultät der Universität Göttingen
  • Prof. Dr. Philipp Reuß (Rechtliche Anforderungen)
    Juristische Fakultät der Universität Göttingen
    Die konkreten Forschungsfragen lauten insoweit:
  1. 1. Welche Anforderungen und Grenzen ergeben sich aus technischer Sicht für den Einsatz des vorstehend beschriebenen Assistenzsystems?
  2. 2. Welche Handlungsempfehlungen sind aus technischer Sicht daraus abzuleiten?
  3. 3. Welche Anforderungen und Grenzen ergeben sich aus zivilverfahrensrechtlicher Sicht für den Einsatz des vorstehend beschriebenen Assistenzsystems?
  4. 4. Welche Handlungsempfehlungen sind aus zivilverfahrensrechtlicher Sicht daraus abzuleiten?

Forschungsansatz

Der Einsatz von KI im Bereich der richterlichen Entscheidungsfindung wirft vielfältige technische und rechtliche Fragestellungen auf. Das Ziel des Projekts ist die Entwicklung von Handlungsempfehlungen für den Einsatz künstlicher Intelligenz bei der richterlichen Entscheidungsfindung im Zivilprozess. Dazu werden in einem ersten Schritt die normativen, rechtlichen und technischen Anforderungen und Grenzen eines KI-Systems zur Unterstützung der richterlichen Entscheidungsfindung herausgearbeitet. Im Vordergrund der Forschung stehen vor allem der Aspekt der richterlichen Unabhängigkeit (Art. 97 GG), das richterliche Entscheidungsmonopol (Art. 92 GG) sowie die zivilprozessualen Verfahrensgrundsätze und -garantien. Ein Schwerpunkt wird auf der Untersuchung liegen, ab wann und in welchen Fällen beim Einsatz eines KI-gestützten Assistenzsystems die richterliche „Entscheidung“ betroffen ist.

In einem zweiten Schritt wird eine Synthese der Anforderungen aus technischer und rechtlicher Sicht vorgenommen, um daraus spezifische Handlungsempfehlungen abzuleiten. Sie sind nicht Gegenstand dieses Abschlussberichts. Mit den Handlungsempfehlungen sollen verschiedene Optionen vorgestellt und diskutiert werden, die einerseits einen rechtssicheren Einsatz von KI-Systemen bei der richterlichen Entscheidungsfindung erlauben, der Einsatz andererseits aber auch von allen beteiligten Personen auf grundlegende Akzeptanz stößt. Die Projektpartner verfolgen einen praxisnahen Forschungsansatz, der eine enge Rückkopplung des Forschungsvorhabens an den von der Firma SINC zu entwickelnden Prototypen und den Austausch mit den dort Verantwortlichen vorsieht.

Gute Gründe für den Einsatz von KI aus technischer Sicht
Zeiteffizienz und Reduktion der Komplexität
Mögliche Probleme durch den Einsatz
Mangelnde Akzeptanz von KI und Skepsis beim Einsatz durch Fehlen von festen Prinzipien und Standards.
Bereits bestehende Richtlinien
Es existieren bereits zahlreiche Dokumente, in denen solche Prinzipien und Standards für den Einsatz von KI formuliert werden.
Neben den großen Technologiefirmen haben auch die Forschung und die EU-Kommission bereits Handlungsdruck erkannt und entwickeln erste Leitlinien.
Diese befassen sich insbesondere mit Fragen der Gleichbehandlung und Transparenz sowie der Erklärbarkeit, Überprüfbarkeit und Verantwortlichkeit der KI sowie der Datensicherheit und menschlichen Kontrolle.
    Sich daraus ergebende technische Fragen
  • Welche Anforderungen müssen die Daten erfüllen, um den spezifizierten Prinzipien zu folgen?
  • Welche Voraussetzungen müssen die angewandten Algorithmen erfüllen?
  • Wie transparent muss das Ergebnis dargestellt werden, damit eine gesellschaftliche Akzeptanz und auch eine Akzeptanz bei den betreffenden Richterinnen und Richtern gewährleistet ist?
  • Kann der Einsatz von KI durch eine externe Zertifizierungsstelle zuverlässig überwacht werden?
  • etc.
Gute Gründe für den Einsatz von KI aus rechtlicher Sicht
Zivilverfahren sind in den letzten Jahren teuer und langwierig geworden
Automatisierungssysteme erlauben effiziente und schnelle Abwicklung von Massenverfahren - Justizgewährungsanspruch und die Gewährung effektiven Rechtsschutzes (Art. 20 III GG und Art. 19 IV GG)
Einfachere Möglichkeit der Vereinheitlichung der Rechtsprechung bei ähnlich gelagerten Fallgestaltungen
Wiederherstellung des Gleichgewichts hinsichtlich der zur Verfügung stehenden Mittel in Anwalt- und Richterschaft
Mögliche Risiken durch den Einsatz
Richterliches Entscheidungsmonopol nach Art. 92 GG muss sichergestellt werden
Entscheidung durch menschlichen Richter und nicht durch KI - Hinterfragung der Entscheidungsfindung und des Ergebnisses der KI
    Sich daraus ergebende rechtliche Fragen
  • richterliches Entscheidungsmonopol (Art. 92 GG)
  • die richterliche Unabhängigkeit, Art. 97 I GG, §§ 25 ff. DRiG
  • das Recht auf den gesetzlichen Richter, Art. 101 I 2 GG
  • das Recht auf rechtliches Gehör, Art. 103 I GG
  • das Rechtstaatsprinzip, Art. 20 III GG, und die Anforderungen an die Begründung und Begründbarkeit von gerichtlichen Entscheidungen
  • den Grundsatz der Gewaltenteilung (z.B. wer stellt Trainingsdaten zur Verfügung? Wer nimmt Einfluss auf die Datenqualität?)
  • den Unmittelbarkeitsgrundsatz (formell und materiell mit Blick auf die Erfordernisse der Beweiswürdigung)
  • den Grundsatz der Mündlichkeit
  • das Gebot effektiven Rechtsschutzes, Art. 19 IV GG (kein (indirekter) Nutzungszwang, Ausschluss der Nachprüfung durch Rechtsmittelinstanz bei „Black-Box-Systemen“)
  • das verfassungsrechtliche Diskriminierungsverbot, Art. 3 I, III GG
  • das Recht auf ein faires Verfahren, Art. 2 I i.V.m. Art. 20 III GG, und den „Fair trial“-Grundsatz, Art. 6 EMRK sowie weitere Verfahrensgrundrechte
  • die Vorgaben des EU-Rechts (KI-Verordnung, DSGVO, EuGRCh)

Weitere Schritte

Aus den Ergebnissen dieser Untersuchung sollen in einem weiteren Schritt Handlungsempfehlungen abgeleitet werden, die primär technische und rechtliche Vorschläge für den Einsatz von KI-System bei der richterlichen Entscheidungsfindung präsentieren. Diese Vorschläge werden dann in einem weiteren Schritt hinsichtlich der möglichen technischen und juristischen Möglichkeiten diskutiert und in einem Whitepaper zusammengeführt.