Wer heutzutage eine rechtliche Beratung braucht, dem steht neben echten Anwält:innen auch KI zur Verfügung. Und eine aktuelle Studie kommt zum Ergebnis, dass sich Menschen ohne juristisches Fachwissen eher auf die Rechtsberatung von ChatGPT und Co. als auf die von echten Anwälten verlassen – zumindest, wenn sie nicht wissen, wer von beiden den Rat erteilt hat.

Große Sprachmodelle (LLMs) sind jedoch auch dafür bekannt, sogenannte Halluzinationen zu erzeugen – also Ergebnisse mit ungenauen oder unsinnigen Inhalten. Das bedeutet, dass ein übermäßiges Vertrauen in sie ein echtes Risiko darstellen kann, insbesondere in sensiblen Bereichen wie dem Rechtswesen.

Ein Forscher:innen-Team um Eike Schneiders, Assistenzprofessor an der Universität Southampton, hat die Studie mit 288 Teilnehmer:innen durchgeführt. Diese erhielten eine Rechtsberatung und wurden gefragt, welcher sie folgen würden. Wenn sie nicht wussten, ob der Rat von einem Anwalt oder einer KI stammte, stellten die Studien-Durchführenden fest, dass sie sich eher dem KI-generierten Rat zuwandten.

Selbst wenn den Teilnehmer:innen mitgeteilt wurde, welche Ratschläge von einem Anwalt und welche von einer KI stammen, kamen die Wissenschaftler:innen zum Ergebnis, „dass sie ChatGPT genauso gerne folgten wie dem Anwalt.“

Schneiders weist auf die Risiken hin, die rechtliche KI-Ratschläge mit sich bringen können. „Im Rechtswesen könnten KI-generierte, halluzinierte Ratschläge unnötige Komplikationen oder sogar Justizirrtümer verursachen“, so ein Fazit der Studie. Deshalb sei es noch nie so wichtig gewesen, „KI angemessen zu regulieren.“ Zu den bisherigen Ansätzen gehört der sogenannte EU-KI-Act, dessen Artikel 50.9 besagt, dass textgenerierende KIs sicherstellen sollen, dass ihre Ergebnisse „als künstlich generiert oder manipuliert erkennbar“ sind.

Aber für Schneiders ist das nur ein Teil der Lösung. „Wir müssen auch die KI-Kompetenz verbessern, damit die Öffentlichkeit Inhalte besser kritisch bewerten kann“, heißt es in der Studie. „Wenn Menschen KI besser erkennen, können sie fundiertere Entscheidungen treffen.“ Ratsam sei, die Quelle von Ratschlägen zu hinterfragen, die Fähigkeiten und Grenzen von KI zu verstehen und im Umgang mit KI-generierten Inhalten kritisches Denken und gesunden Menschenverstand zu fördern.

Bei Rechtsberatungen kann es sinnvoll sein, KI für erste Fragen zu nutzen, betont Schneiders: „Welche Möglichkeiten habe ich? Was muss ich recherchieren? Gibt es ähnliche Fälle wie meinen oder um welches Rechtsgebiet handelt es sich?“ Wichtig sei jedoch, die Beratung lange vor einem Gerichtsverfahren mit einem Anwalt abzustimmen.