Der Fall ist fast schon legendär: Ein Mann klagt gegen eine Airline, weil ihm auf einem Flug durch einen Servierwagen das Knie verletzt worden sei. Sein Anwalt sucht nach Vergleichsurteilen, um die Klage zu unterfüttern. Und bemüht den Chatbot ChatGPT. Der spuckt gleich auch Fälle aus: „Petersen gegen Iran Air“ oder „Martinez gegen Delta Airlines“. Der Bot versieht sie sogar mit Aktenzeichen.
Doch als der Jurist seinen Antrag beim Gericht einreicht, kommt raus: Die Fälle sind Fake. Ein gefährlicher Vorgang, sagt der Leiter des Instituts für Jura und Ethik an der Fordham-Universität in New York, Bruce Green. Der zuständige Richter nennt den Fall beispiellos. Die Juristengemeinde ist alarmiert. Der Klägeranwalt beteuert unter Eid, er habe das Gericht nicht täuschen wollen, sondern sich auf die Künstliche Intelligenz verlassen.
Das war sicherlich nachlässig, vielleicht sogar leichtsinnig, sagt Green: „Die Regeln für Anwälte hier in den USA sagen ganz klar: Sie müssen souverän mit neuen technischen Werkzeugen umgehen, die sie nutzen, und sie müssen um die Gefahren und Fallstricke wissen.“ Dies gilt umsomehr in der Europäischen Union, insbesondere seit Inkrafttreten der KI-VO.
Manche US-Richter fordern jetzt eine Regulierung für den Einsatz von Künstlicher Intelligenz im US-Justizsystem. In der EU gilt der öffentliche Justiz-Bereich durch Anhang III der KI-VO als hochrisikobehaftet mit entsprechenden weitreichenden Pflichten. Konkret heißt es: Als Hochrisiko-KI-Systeme gelten „KI-Systeme, die bestimmungsgemäß von einer oder im Namen einer Justizbehörde verwendet werden sollen, um eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte zu unterstützen, oder die auf ähnliche Weise für die alternative Streitbeilegung genutzt werden sollen.“
