Respektloser Restaurant-Tipp: Microsoft-KI empfiehlt Tourist:innen den Besuch der Tafel
Vor drei Jahren hatte Microsoft Journalist:innen bei Microsoft News und MSN entlassen, um sie durch künstliche Intelligenz zu ersetzen. Das war wohl keine so gute Idee! Denn einer der KI-generierten Reiseartikel hat nun für einen großen Shitstorm und Empörung gesorgt.
Wie der Techkritiker Paris Marx zuerst auf X am Donnerstag berichtete, hatte msn.com auf seiner Seite einen Text veröffentlicht, in dem Tourist:innen der Besuch der Ottawa Food Bank empfohlen wurde.
Microsoft is really hitting it out of the park with its AI-generated travel stories! If you visit Ottawa, it highly recommends the Ottawa Food Bank and provides a great tip for tourists: “Consider going into it on an empty stomach.” https://t.co/7bvGemDad2
— Paris Marx (@parismarx) August 17, 2023
Die Food Bank entspricht in Kanada der deutschen Tafel, die Essen für Obdachlose und sozial schwache Familien sammelt und ausgibt. Die Ursprungsversion des Artikels wurde mittlerweile entfernt, der Link ist nicht mehr erreichbar.
Microsoft-KI: Tafel als drittwichtigste Touristenempfehlung
Im ursprünglichen Text soll die Tafel die drittwichtigste Empfehlung auf der Liste gewesen sein – noch vor dem National War Memorial und dem Besuch eines Spiels der Ottawa Senators, einem national bekannten Eishockeyteam. Das berichtet die Seite theverge.com.
Die Onlineseite kontaktierte ebenfalls den Konzern selbst. In einer Erklärung an The Verge schrieb der Senior Director von Microsoft, Jeff Jones: „Dieser Artikel wurde entfernt und wir untersuchen, wie er es durch unseren Überprüfungsprozess geschafft hat.“ Zum Zeitpunkt der Anfrage an Microsoft soll die ursprüngliche Version sogar noch online gewesen sein.
Tafel-Empfehlung von Microsoft: „Nicht mit leerem Magen hingehen“
Im Ursprungstext hatte die KI mehr als unglückliche Aussagen über den Besuch bei der Tafel formuliert: „Die Menschen, die zu uns kommen, haben Arbeit und Familie zu versorgen sowie Ausgaben zu tätigen. Das Leben ist schon schwierig genug. Da sollte man nicht mit leerem Magen hingehen.“ The Verge hat einen Screenshot des gesamten Artikels auf Imgur hochgeladen.
Auf die Aussagen angesprochen, schrieb die Kommunikationsmanagerin der Food Ottawa Bank, Samantha Koziara: „Unnötig zu sagen, dass dies nicht die Art von Nachricht oder ‚Geschichte‘ ist, die wir jemals veröffentlichen würden oder in der wir enthalten sein wollen.“
Die Zeile ‚leerer Magen‘ sei eindeutig unsensibel und wäre keinem menschlichen Redakteur passiert. „Soweit ich weiß, haben wir so etwas noch nie gesehen – aber da KI immer populärer wird, bezweifle ich nicht, dass es in solchen Artikeln vermehrt zu ungenauen/unangemessenen Verweisen kommen wird. Dies unterstreicht einfach die Bedeutung von Forscher:innen, Autor:innen und Redakteur:innen von der menschlichen Sorte”, so die Tafel-Sprecherin.
Microsoft will KI-Arbeit eigentlich mit menschlicher Aufsicht kombinieren
Microsoft schreibt derweil auf seiner Seite in der Rubrik „Über uns“, dass die KI-Arbeit mit menschlicher Aufsicht kombiniert werde, um sicherzustellen, dass die Inhalte, die man zeige, mit den Werten des Unternehmens übereinstimmten und dass wichtige Informationen an erster Stelle stünden.
„Jeden Tag durchkämmen unsere Algorithmen Hunderttausende von Inhalten, die von unseren Partnern gesendet werden. Wir verarbeiten sie, um Dimensionen wie Aktualität, Kategorie, Themenart, Meinungsgehalt und potenzielle Popularität zu verstehen und veröffentlichen sie entsprechend den Benutzerpräferenzen.“
