Mastodawn

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Show thread

Jörg Müller 1d ago

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh @lassegismo @Unknowable @Moni

Zusammengefasst: die Expert*innen aus Juristerei und KI müssen sich intensiv austauschen darüber, welche Werkzeuge möglich und welche zulässig wären und beide müssen verstehen, was die roten Linien in der jeweils anderen Welt sind. Das Ziel sind an den besonderen Bedarf und an die besonderen Regeln des Fachbereichs angepasste, von den Anwender*innen verstandene Spezial-Werkzeuge.