Ein Chatbot könnte Unternehmen und Vermieter:innen in Schwierigkeiten bringen. (Foto: Gorodenkoff / Shutterstock)
„MyCity“ heißt der Chatbot der Stadt New York, der von Bürgermeister Eric Adams bereits im Oktober 2023 vorgestellt wurde. Die künstliche Intelligenz soll Bürger:innen bei Rechtsfragen weiterhelfen. Genauer gesagt soll sich der Chatbot mit Fragen zu den Rechten und Pflichten von Unternehmer:innen und Vermieter:innen auskennen.
Doch wie ein Test von The Markup zeigt, muss die KI wohl noch einmal die virtuelle Schulbank drücken. Denn einige Fragen beantwortet die KI falsch und könnte damit die Bürger:innen der Stadt vor rechtliche Konsequenzen stellen.
So reagiert der Chatbot auf die Fragen
Im Test zeigten sich gleich mehrere Baustellen für den Chatbot. Bei der Frage, ob Vermieter:innen einen sogenannten „Section 8“-Gutschein von sich bewerbenden Mieter:innen ablehnen können, antwortete der Bot mit „Ja“. Section 8 ist die finanzielle Unterstützung für einkommensschwache Menschen, die ohne diese keine Wohnung mieten könnten – das System ist in etwa mit einem Wohnberechtigungsschein in Deutschland vergleichbar. Wohnungsbewerbungen aufgrund dieses Scheins abzulehnen, ist in den USA verboten, da es diskriminierend ist.
Auch bei Unternehmen scheint sich der Chatbot aktuell nicht so gut auszukennen. Er behauptete etwa, dass Geschäfte in New York kein Bargeld akzeptieren müssten, Arbeitgeber:innen die Trinkgelder ihrer Angestellten einkassieren dürfen und die Mitarbeitenden nicht über Schichtänderungen informieren müssten. All diese Aussagen sind falsch.
Wie geht es mit dem Chatbot weiter?
Bei dem Test zeigte sich, dass der Bot nicht immer falsche Aussagen trifft. Bei mehreren Anfragen bestätigte er, dass ein Section-8-Gutschein kein Grund für eine Wohnungsabsage wäre. Allerdings reicht bereits eine Falschaussage aus, um Vermieter:innen in Schwierigkeiten zu bringen, wenn sie nicht weiter hinterfragt wird.
Rosalind Black von der gemeinnützigen Vereinigung „Legal Services NYC“, die einkommensschwache Menschen kostenlos rechtlich berät, ist dem Bot gegenüber skeptisch eingestellt. Sie sagt: „Wenn dieser Chatbot nicht in einer verantwortungsvollen und akkuraten Weise arbeitet, sollte er abgeschaltet werden.“
Leslie Brown, Sprecherin des NYC Office of Technology and Innovation, sagt, dass der Chatbot bereits Tausende Menschen mit akkuraten Antworten versorgt habe. Man würde trotzdem weiter daran arbeiten, um kleine Unternehmen in der Stadt künftig noch besser zu unterstützen.
