Wer sich heute bei McDonald’s bewirbt, landet mit hoher Wahrscheinlichkeit zunächst bei Olivia. Der KI-Chatbot ist in die Karriereplattform des Fast-Food-Riesen integriert und erfragt erste wichtige Informationen wie Namen und Kontaktdaten von den Bewerber:innen. Was im ersten Moment praktisch klingt, hat in der Praxis allerdings seine Tücken. Wie Wired berichtet, führte ein gravierender Sicherheitsfehler im KI-basierten Bewerbungssystem nämlich dazu, dass Hacker:innen sensible Daten von Millionen Bewerber:innen einsehen konnten.

Der KI-Chatbot Olivia wurde vom US-Unternehmen Paradox.ai entwickelt. Er ist direkt in McHire.com, die zentrale Bewerbungsplattform von McDonald’s, integriert. Eigentlich sollte Olivia erste Informationen von den Kandidat:innen erfragen und sie an einen für den Bewerbungsprozess relevanten Persönlichkeitstest weiterleiten. Schon hier zeigten sich allerdings erste Schwächen. Der Chatbot tendierte nämlich dazu, viele Fragen falsch zu verstehen und sorgte deshalb nicht selten für Frustration bei den Bewerber:innen.

Was die Sicherheitsforscher Ian Carroll und Sam Curry bei einem Test auf der Website entdeckten, wiegt allerdings noch deutlich schwerer. Die beiden waren durch Reddit-Posts, in denen sich Bewerber:innen über den Olivia-Bot beschwerten, auf die Plattform aufmerksam geworden. Sie begannen, sich mit der KI zu unterhalten, um sie auf potenzielle Schwachstellen zu testen. Dabei fanden sie schnell heraus, dass sie sich mit dem Passwort „123456“ ohne Zwei-Faktor-Authentifizierung in das Backend des McHire-Systems einloggen konnten. So erhielten sie Zugriff auf die Chatprotokolle und Kontaktdaten von Millionen Bewerber:innen weltweit.

In einem Blog-Beitrag bestätigte Paradox.ai den Vorfall und betonte, dass außer den beiden Forschern keine unbefugten Zugriffe stattgefunden hätten. Die Schwachstelle sei am Tag der Entdeckung geschlossen worden. Die Sicherheitslücke betraf offenbar ein Testkonto, das seit 2019 nicht mehr genutzt und nie deaktiviert worden war. Über dieses Konto konnten die Forscher nicht nur ihre eigenen Testdaten einsehen, sondern auch fremde Bewerbungen aufrufen. Insgesamt sollen bis zu 64 Millionen Datensätze betroffen sein – darunter Namen, E-Mail-Adressen und Telefonnummern.

Auch wenn diese persönlichen Informationen im Vergleich zu Bank- oder Gesundheitsdaten nicht als hochsensibel eingestuft werden, sehen die Sicherheitsexperten dennoch ein enormes Missbrauchspotenzial. Die Kombination aus Bewerbungsdaten und der Tatsache, dass sich die Betroffenen aktiv um einen Job bemühen, macht sie anfällig für gezielte Phishing-Angriffe. So könnten Betrüger:innen beispielsweise vorgeben, im Namen von McDonald’s eine Bankverbindung für den Gehaltseingang abzufragen – ein klassisches Muster bei Betrugsversuchen.

McDonald’s wies die Verantwortung klar dem Partner Paradox.ai zu. „Wir nehmen unser Engagement für Cybersicherheit ernst und werden unsere Drittanbieter weiterhin für die Einhaltung unserer Datenschutzstandards verantwortlich machen“, sagte ein Sprecher der Fast-Food-Kette gegenüber Wired.

Der Vorfall wirft dennoch ein Schlaglicht auf die Risiken, wenn zentrale Bewerbungsprozesse zunehmend automatisiert werden und Bewerber:innen in großer Zahl KI-gesteuerte Systeme durchlaufen müssen. Der Sicherheitsforscher Ian Carroll gab selbst an, dass er die Entscheidung von McDonald’s, Bewerber:innen zunächst an einen Chatbot zu verweisen, faszinierend fand – faszinierend dystopisch.