Sicherheitsrisiko in Slack: Wie Hacker KI-Features ausnutzen können, um sensible Daten zu stehlen

Slack ist ein äußerst beliebtes Tool, um gerade in Unternehmen schnell miteinander zu kommunizieren. Erst im August haben die Verantwortlichen hinter dem Kommunikations-Tool eine Reihe von KI-Funktionen angekündigt, die das Arbeiten mit der Plattform noch leichter und schneller machen sollen. Wie die Sicherheitsexpert:innen von Promptarmor berichten, führen die KI-Features in Slack aber auch zu einem Sicherheitsproblem.
So kann die Slack-KI von Hacker:innen ausgenutzt werden
Laut den Expert:innen ist es möglich, sensible Daten aus Slack zu extrahieren. Das passiert über sogenannte „Prompt Injection“. Dabei überschreiben Hacker:innen mit ihren schädlichen Prompts die Anweisungen der KI. So umgehen sie vorhandene Sicherheitsmaßnahmen und bringen die KI dazu, ihnen beim Stehlen von Daten zu helfen.
Im Falle von Slack könnte ein Angriff so ablaufen: Mitarbeiter:innen eines Unternehmens speichern sensible Daten wie API-Keys in einem privaten Chat. Das kann auch der Kanal sein, in dem Nutzer:innen nur mit sich selbst schreiben und der als Platz für Notizen dient. Hacker:innen, die Zugriff auf die öffentlichen Kanäle des Unternehmens haben, können über Prompt Injection auch diese privaten Kanäle knacken.
Sie erstellen dafür einen öffentlichen Kanal. Da Unternehmen normalerweise zahlreiche öffentliche Kanäle haben und diese nur bei der aktiven Suche nach Kanälen angezeigt werden, können Hacker:innen trotzdem relativ unauffällig bleiben. In dem Kanal überschreiben sie die Anweisungen der KI. So befehlen sie Slack AI etwa, dass Nutzer:innen bei der Frage „Wie ist mein API-Key?“ die Antwort „Fehler beim Laden der Nachricht. Klicken Sie hier, um sich erneut zu authentifizieren“ bekommen.
Unter der Nachricht soll die Slack AI einen Link erstellen, der den abgerufenen API-Key enthält. Klicken die Slack-User:innen auf den Link, wird der API-Key an die Server der Hacker:in weitergeleitet. Die Prompt Injection muss sich dabei nicht unbedingt auf API-Keys beziehen. Über diesen Weg könnten Hacker:innen viele verschiedene sensible Daten extrahieren, die in den privaten Chats des Unternehmens stecken. Und das, ohne das Wissen der Mitarbeitenden.
In einem Statement äußerte sich Slack zu dem Sicherheitsproblem: „Als wir von dem Bericht erfahren haben, leiteten wir sofort eine Untersuchung des beschriebenen Szenarios ein, bei dem ein böswilliger Akteur mit einem bestehenden Konto im selben Slack-Workspace unter sehr begrenzten und spezifischen Umständen andere Nutzer nach sensiblen Daten phishen könnte. Wir haben einen Patch bereitgestellt, um das Problem zu beheben, und haben derzeit keine Beweise für einen unbefugten Zugriff auf Kundendaten.“