Anzeige
Anzeige
Anzeige
Anzeige
News
Verpasse keine News mehr!

Anthropic: In einem laufenden Verfahren halluziniert Claude ein falsches Zitat

Wie verlässlich sind KI-Tools im juristischen Kontext? Claude von Anthropic lässt Zweifel an dem Einsatz aufkommen, nachdem die KI in einem aktuellen Rechtsstreit des Unternehmens ein falsches Zitat lieferte.

Von Noëlle Bölling
2 Min.
Artikel merken
Anzeige
Anzeige
Die aktuelle Panne wirft ein schlechtes Bild auf Claude AI. (Bild: Shutterstock/rawf8)

In einem Verfahren vor einem US-Gericht muss sich Anthropic derzeit gegen den Vorwurf verteidigen, urheberrechtlich geschützte Musikinhalte unerlaubt zum Training seiner KI Claude verwendet zu haben. Jetzt ist dem Unternehmen eine besonders unangenehme Panne unterlaufen: Wie The Verge berichtet, reichte Anthropic ein falsches Zitat ein, das ausgerechnet von Claude selbst generiert wurde.

Anzeige
Anzeige

Anthropic entschuldigte sich für den Fehler

Im laufenden Rechtsstreit mit der Universal Music Group, Concord und ABKCO hatte Olivia Chen, die als Datenwissenschaftlerin bei Anthropic arbeitet, am 30. April offenbar ein falsches Zitat als Teil der Verteidigung eingereicht. Ein Anwalt der Gegenseite, der die Musikverlage vertritt, sagte bei einer Anhörung, Chens Dokument habe sich auf eine Quelle bezogen, die „vollständig erfunden“ gewesen sei – und deutete an, dass der Fehler auf Halluzinationen von Anthropics eigenem KI-Tool zurückgeführt werden könne.

Anthropic wies den Vorwurf zurück und erklärte, dass die Quelle tatsächlich existiere, Claude aber ein Fehler bei der Formatierung des Zitats unterlaufen sei. Dabei sei der Wortlaut verändert worden, was bei einer manuellen Überprüfung des Zitats nicht aufgefallen wäre. „Obwohl der korrekte Publikationstitel, das Erscheinungsjahr und der Link zur angegebenen Quelle angegeben wurden, enthielt das eingereichte Zitat leider einen falschen Titel und falsche Autoren“, sagte Ivana Dukanovic, die Anwältin von Anthropic.

Anzeige
Anzeige

Sollte KI im juristischen Kontext genutzt werden dürfen?

Der Vorfall reiht sich ein in eine wachsende Zahl von Beispielen, in denen generative KI in juristischen Kontexten für Verwirrung sorgt – etwa durch falsche Urteile, erfundene Quellen oder fehlerhafte Argumentationen. Eine Studie der Stanford University zeigt, dass gängige KI-Modelle wie ChatGPT bei juristischen Anfragen in 58 bis 82 Prozent der Fälle halluzinieren. Und selbst spezialisierte juristische KI-Tools weisen je nach Modell noch Fehlerquoten von bis zu 34 Prozent auf.

Gleichzeitig planen laut Umfragen fast drei Viertel der Anwält:innen in den USA, generative KI in ihrer Arbeit einzusetzen. Denn in der Theorie können KI-Tools zum Beispiel bei der Recherche, Vertragserstellung oder Analyse umfangreicher juristischer Dokumente eine enorme Erleichterung bieten. Die Diskrepanz zwischen technologischem Potenzial und tatsächlicher Verlässlichkeit offenbart allerdings die Risiken, die der Einsatz von KI im Rechtswesen mit sich bringt.

Anzeige
Anzeige

Für Anthropic ist der Vorfall mehr als nur peinlich

Ob das Gericht die Erklärung für die Entstehung des Fehlers akzeptiert, ist derzeit noch offen. Dass aber ausgerechnet ein KI-Unternehmen wie Anthropic so unkritisch in die eigene Technologie vertraut, wirft grundsätzliche Fragen auf: Wie verlässlich sind KI-Systeme, wenn es um Fakten, Haftbarkeit und Genauigkeit geht? Und reicht eine menschliche Kontrollinstanz aus, um KI-Werkzeuge im juristischen Kontext sicher einzusetzen?

Für Anthropic ist der Vorfall im laufenden Prozess mehr als eine unangenehme Panne, denn nicht nur die Glaubwürdigkeit des KI-Modells steht auf dem Spiel – sondern die des gesamten Unternehmens. Dass Claude ausgerechnet im eigenen Prozess zur Belastung wird, dürfte das Vertrauen in die Technologie nicht gerade stärken.

Anzeige
Anzeige

Apple Intelligence: In diesen 6 Fällen lag die KI daneben

Apple Intelligence: In diesen 6 Fällen lag die KI daneben Quelle: Foto: Volodymyr TVERDOKHLIB/Shutterstock

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren