Anzeige
Anzeige
News

Dieser Chatbot soll bei Rechtsfragen helfen – und rät zu Straftaten

Die Stadt New York hat einen Chatbot bereitgestellt, der Unternehmen und Vermieter:innen rechtlichen Rat geben soll. Allerdings spuckt die KI dabei Falschaussagen aus, die zu einer Anklage führen könnten.

Von Marvin Fuhrmann
2 Min.
Artikel merken
Anzeige
Anzeige

Ein Chatbot könnte Unternehmen und Vermieter:innen in Schwierigkeiten bringen. (Foto: Gorodenkoff / Shutterstock)

„MyCity“ heißt der Chatbot der Stadt New York, der von Bürgermeister Eric Adams bereits im Oktober 2023 vorgestellt wurde. Die künstliche Intelligenz soll Bürger:innen bei Rechtsfragen weiterhelfen. Genauer gesagt soll sich der Chatbot mit Fragen zu den Rechten und Pflichten von Unternehmer:innen und Vermieter:innen auskennen.

Anzeige
Anzeige

Doch wie ein Test von The Markup zeigt, muss die KI wohl noch einmal die virtuelle Schulbank drücken. Denn einige Fragen beantwortet die KI falsch und könnte damit die Bürger:innen der Stadt vor rechtliche Konsequenzen stellen.

So reagiert der Chatbot auf die Fragen

Im Test zeigten sich gleich mehrere Baustellen für den Chatbot. Bei der Frage, ob Vermieter:innen einen sogenannten „Section 8“-Gutschein von sich bewerbenden Mieter:innen ablehnen können, antwortete der Bot mit „Ja“. Section 8 ist die finanzielle Unterstützung für einkommensschwache Menschen, die ohne diese keine Wohnung mieten könnten – das System ist in etwa mit einem Wohnberechtigungsschein in Deutschland vergleichbar. Wohnungsbewerbungen aufgrund dieses Scheins abzulehnen, ist in den USA verboten, da es diskriminierend ist.

Anzeige
Anzeige

Auch bei Unternehmen scheint sich der Chatbot aktuell nicht so gut auszukennen. Er behauptete etwa, dass Geschäfte in New York kein Bargeld akzeptieren müssten, Arbeitgeber:innen die Trinkgelder ihrer Angestellten einkassieren dürfen und die Mitarbeitenden nicht über Schichtänderungen informieren müssten. All diese Aussagen sind falsch.

Anzeige
Anzeige

Wie geht es mit dem Chatbot weiter?

Bei dem Test zeigte sich, dass der Bot nicht immer falsche Aussagen trifft. Bei mehreren Anfragen bestätigte er, dass ein Section-8-Gutschein kein Grund für eine Wohnungsabsage wäre. Allerdings reicht bereits eine Falschaussage aus, um Vermieter:innen in Schwierigkeiten zu bringen, wenn sie nicht weiter hinterfragt wird.

Rosalind Black von der gemeinnützigen Vereinigung „Legal Services NYC“, die einkommensschwache Menschen kostenlos rechtlich berät, ist dem Bot gegenüber skeptisch eingestellt. Sie sagt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“

Anzeige
Anzeige

Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, sagt, dass der Chatbot bereits Tausende Menschen mit akkuraten Antworten versorgt habe. Man würde trotzdem weiter daran arbeiten, um kleine Unternehmen in der Stadt künftig noch besser zu unterstützen.

15 lustige von KI generierte Bilder Quelle: Google
Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige