Eingangs analysierte Professor Mik den Begriff „Halluzination“. Wir Menschen verbinden damit eine Sinnestäuschung, bei der wir Dinge sehen oder hören, die nicht real sind. Im Bereich der künstlichen Intelligenz (KI) bezieht sich der Begriff auf etwas Banaleres aber ebenso Besorgniserregendes: die „überzeugende“ Darstellung falscher oder frei erfundener Informationen. Die angeführten Beispiele reichten von offensichtlich absurden Ausgaben, wie der Empfehlung, ungiftigen Klebstoff unter eine Pizzasauce zu mengen, bis hin zu wesentlich tückischeren Ausgaben, die durchaus plausibel scheinen, rechtlich aber fragwürdig sind – eine Diskrepanz, die nur qualifizierten Jurist*innen auffallen würde. Das Hauptproblem liegt laut Professor Mik in der Funktionsweise von LLMs: Sie generieren ihren Output, indem sie statistisch wahrscheinliche Wortfolgen rekombinieren. Das Design von LLMs zielt darauf ab, die Nutzer*innen zu unterstützen. Die Systeme sind jedoch nicht darauf trainiert, die Korrektheit ihrer Ausgaben zu überprüfen, die rechtliche Korrektheit eines Arguments zu prüfen oder gar zugegeben, dass sie etwas nicht wissen.
Die Diskrepanz zwischen den Antworten des LLM und ihrer sachlichen Richtigkeit besteht nicht nur in der Theorie. Professor Mik verwies auf aktuelle Fälle, in denen Jurist*innen sich in Bezug auf Präzedenzfälle auf KI verließen. Die Informationen der KI erwiesen sich in diesen Fällen jedoch als frei erfunden, was reale berufliche Konsequenzen hatte. Was zunächst wie eine harmlose „Halluzination“ klingen mag, so Mik, täusche de facto über einen strukturellen Mangel hinweg: Es werde dabei eine juristische Argumentation nachgeahmt, jedoch ohne jegliche Begründung, die den rechtlichen Standards der Nachvollziehbarkeit und Rechenschaftspflicht genügen würde.
Die Branche setzte bisher auf geringfügige Korrekturen anstelle von umfassenden Veränderungen. Die Modelle werden mit externen Dokumenten gefüttert, mit Datenbanken verlinkt oder „vergrößert“, mit dem Versprechen, die Fehleranfälligkeit zu senken. Dies ändert jedoch nichts an der ihnen zugrundeliegenden Logik – die Modelle basieren nach wie vor auf Häufigkeit, nicht auf Korrektheit. Vor diesem Hintergrund fordert Professor Mik, dass LLMs nicht als fertige Nachwuchskräfte sondern vielmehr als Hilfsmittel betrachtet werden sollten, welche eine sorgfältige menschliche Überwachung erfordern. Einstweilen sind die einzigen verlässlichen Vorsichtsmaßnahmen einfache, sorgfältig formulierte Eingaben (Prompts), die konsequente Verwendung eines Modells und eine gründliche Portion Skepsis.
Wir danken Professor Mik für ihren aufschlussreichen Vortrag und allen Teilnehmer*innen für ihre Fragen und Beiträge.
Der Vortrag wurde von Univ.-Prof. Dr. Iris Eisenberger, M.Sc. (LSE) und Univ.-Prof. Dr. Dr. h.c. Christiane Wendehorst, LL.M. (Cantab.)
