KI ersetzt Mensch - das wünschte sich der Gründer von Donotpay. Jetzt stand das Unternehmen selbst vor Gericht - wegen einer ungeprüften Anwalts-KI. (Foto: Andrey_Popov/Shutterstock)
Donotpay ist ein US-amerikanischer Anbieter eines KI-Tools für Rechtshilfe und steht aktuell selbst vor Gericht. Das Unternehmen hat laut der Kartellbehörde FTC die Genauigkeit seines KI-Anwalts nie von einem echten, menschlichen Anwalt überprüfen lassen. Das hat jetzt gerichtliche Folgen abseits der digitalen Welt. In einem Deal muss der Konzern Geld zahlen und sein Angebot einschränken.
Donotpay muss 193.000 Dollar zahlen und Angebot einschränken
Der Fall birgt eine gewisse Tragikomik: Das Unternehmen bietet Nutzern KI-Rechtshilfe an, wenn es zum Beispiel um Kündigungen von nicht gewollten Abonnements geht oder um angeblich ungerechtfertigte Strafzettel. Weil es sein eigenes Produkt nie ordnungsgemäß getestet hat, einigten sich Donotpay und FTC jetzt auf eine Summe von 193.000 US-Dollar an Strafzahlungen. Zudem muss das Unternehmen sein Angebot einschränken.
Zusätzlich muss Donotpay alle, die ab 2021 Kunden waren oder sind, über die Einschränkungen des Abonnementdienstes informieren. Laut einer Pressemitteilung der Federal Trade Comission ist es ein weiterer Teil des Deals, dass die Firma keine Behauptungen mehr ohne Nachweise über seine KI-Anwaltsfähigkeiten aufstellen darf. Als Beispiel wird hier „die professionellen Dienstleistungen echter Menschen ersetzen“ genannt. Den genauen Wortlaut der Anklage könnt ihr hier lesen.
Das kann der KI-Anwalt wirklich und was der Deal bedeutet
Das Tool erstellte laut FTC zum Beispiel Rechtsdokumente wie Geschäftsverträge, Geheimhaltungsvereinbarungen, Eheverträge oder sogar Sorgerechtsvereinbarungen. Eigentlich sollte der KI-Anwalt laut Gizmodo sogar in physischen Gerichtssälen auftreten – eine Idee, die Anfang 2023 schnell wieder aufgegeben wurde, nachdem sich die Anwaltskammern dagegen ausgesprochen hatten. Wie groß die Ambitionen des Gründers wirklich waren, zeigt sich auch an früheren Aussagen. So sagte Joshua Browder laut Gizmodo, Donotpay wolle „die 200-Milliarden-Dollar-Rechtsbranche durch künstliche Intelligenz ersetzen“.
Was bedeutet dieser Deal also konkret? In einer Erklärung des Unternehmens heißt es: „Donotpay freut sich über die konstruktive Zusammenarbeit mit der Federal Trade Commission, um diesen Fall beizulegen und diese Probleme vollständig zu lösen, ohne eine Haftung einzuräumen“.
Donotpay weist also darauf hin, dass das Unternehmen im Vergleich mit der FTC keine Haftung anerkannt hat. Auf Rückfrage seitens Gizmodo zu den Vorwürfen, dass das Unternehmen keinen echten Anwalt zur Überprüfung engagierte, gab es keine Antwort.
Die FTC-Vorsitzende Lina Khan äußerte sich in einer Mitteilung hingegen so: „Der Einsatz von KI-Tools, um Menschen zu täuschen, irrezuführen oder zu betrügen, ist illegal. Die Durchsetzungsmaßnahmen der Federal Trade Commission machen deutlich, dass es keine KI-Ausnahmeregelung von den geltenden Gesetzen gibt.“ Khan sagt: „Durch das harte Durchgreifen gegen unfaire oder betrügerische Praktiken auf diesen Märkten stellt die FTC sicher, dass ehrliche Unternehmen und Innovatoren eine faire Chance erhalten und die Verbraucher geschützt werden.“
Übrigens gibt es diesen KI-Fail auch andersherum. Ein Anwalt setzt auf KI-Support von ChatGPT und blamiert sich mächtig.
