Auf der Black Hat Security Conference in Las Vegas hat Sicherheitsforscher Michael Bargury gezeigt, dass Microsofts Copilot einfach ausgenutzt werden kann, um Hacker:innen ihre Arbeit zu erleichtern. Über einen dieser Wege verwandelt sich das KI-Tool in eine Phishing-Maschine, die hunderte echt aussehende Fake-Mails ausspucken kann.

Grundvoraussetzung dafür ist, dass die Hacker:innen bereits Zugriff auf die Arbeits-Mail-Adresse des Ziels haben. Das „Ziel“ ist im Beispiel der Sicherheitsforscher:innen eine Person in einem Unternehmen. Mit der Adresse können sie den Copilot-Zugang sowie das Mail-Konto übernehmen.

Anschließend kann ihnen Copilot alle Aufgaben abnehmen, die normalerweise viel Zeit und Nachforschungen beim Phishing benötigen würden. Hacker:innen können einfach fragen, mit wem die Person zuletzt geschrieben hat, was die Themen waren und daraufhin eine Antwort formulieren.

Dabei können sie die KI anweisen, den Schreibstil der vermeintlichen Absender:innen nachzuahmen – inklusive besonderer Grußformeln und Emojis. Anschließend müssen die Hacker:innen in der Mail nur noch einen Vorwand finden, um eine Datei mit Schadsoftware anzuhängen oder einen Link unterzubringen, der auf eine schädliche Website führt.

„Ich kann das mit allen machen, mit denen ihr jemals geschrieben habt und ich kann Hunderte Mails in eurem Namen schicken“, sagt Bargury gegenüber Wired. Er fügt hinzu: „Ein Hacker würde Tage damit verbringen, eine Mail zu erschaffen, auf die ihr klickt. Aber jetzt können sie Hunderte dieser Mails innerhalb von Minuten erstellen.“

Bargury stellt auch weitere Methoden vor, wie Hacker:innen die KI-Tools ausnutzen können. So können Angreifer:innen Informationen über Gehälter extrahieren. Zwar hat die KI eigentlich Sicherheitsmaßnahmen, die das verhindern sollen, doch lassen sich diese laut Bargury mit Nachdruck aushebeln.

In einem weiteren Beispiel brauchen Hacker:innen nicht einmal Zugang zum Mail-Konto der Mitarbeiter:innen. Sie können eine schädliche Mail an sie schicken, die dann Teil der KI-Datenbank wird, wenn Copilot die Mails scannt. In der Mail befinden sich dann Bankinformationen, die auf ein Konto der Hacker:innen verweisen. Die KI kann diese mit den eigentlichen Überweisungszielen austauschen.

Microsoft soll bereits mit Bargury zusammenarbeiten, um die Probleme aus der Welt zu schaffen. Das ist laut dem Sicherheitsexperten auch dringend nötig: „Man spricht mit Copilot und führt eine eingeschränkte Konversation, weil Microsoft Sicherheitsmaßnahmen eingefügt hat. Aber wenn man ein paar magische Worte nutzt, dann öffnet es sich und kann tun, was du willst.“