„MyCity“ heißt der Chatbot der Stadt New York, der von Bürgermeister Eric Adams bereits im Oktober 2023 vorgestellt wurde. Die künstliche Intelligenz soll Bürger:innen bei Rechtsfragen weiterhelfen. Genauer gesagt soll sich der Chatbot mit Fragen zu den Rechten und Pflichten von Unternehmer:innen und Vermieter:innen auskennen.
Doch wie ein Test von The Markup zeigt, muss die KI wohl noch einmal die virtuelle Schulbank drücken. Denn einige Fragen beantwortet die KI falsch und könnte damit die Bürger:innen der Stadt vor rechtliche Konsequenzen stellen.
So reagiert der Chatbot auf die Fragen
Im Test zeigten sich gleich mehrere Baustellen für den Chatbot. Bei der Frage, ob Vermieter:innen einen sogenannten „Section 8“-Gutschein von sich bewerbenden Mieter:innen ablehnen können, antwortete der Bot mit „Ja“. Section 8 ist die finanzielle Unterstützung für einkommensschwache Menschen, die ohne diese keine Wohnung mieten könnten – das System ist in etwa mit einem Wohnberechtigungsschein in Deutschland vergleichbar. Wohnungsbewerbungen aufgrund dieses Scheins abzulehnen, ist in den USA verboten, da es diskriminierend ist.
Auch bei Unternehmen scheint sich der Chatbot aktuell nicht so gut auszukennen. Er behauptete etwa, dass Geschäfte in New York kein Bargeld akzeptieren müssten, Arbeitgeber:innen die Trinkgelder ihrer Angestellten einkassieren dürfen und die Mitarbeitenden nicht über Schichtänderungen informieren müssten. All diese Aussagen sind falsch.
Wie geht es mit dem Chatbot weiter?
Bei dem Test zeigte sich, dass der Bot nicht immer falsche Aussagen trifft. Bei mehreren Anfragen bestätigte er, dass ein Section-8-Gutschein kein Grund für eine Wohnungsabsage wäre. Allerdings reicht bereits eine Falschaussage aus, um Vermieter:innen in Schwierigkeiten zu bringen, wenn sie nicht weiter hinterfragt wird.
Rosalind Black von der gemeinnützigen Vereinigung „Legal Services NYC“, die einkommensschwache Menschen kostenlos rechtlich berät, ist dem Bot gegenüber skeptisch eingestellt. Sie sagt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“
Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, sagt, dass der Chatbot bereits Tausende Menschen mit akkuraten Antworten versorgt habe. Man würde trotzdem weiter daran arbeiten, um kleine Unternehmen in der Stadt künftig noch besser zu unterstützen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team