Anzeige
Anzeige
MIT Technology Review News

So will das US-Verteidigungsministerium Deepfakes bekämpfen

Für das US-Verteidigungsministerium ist die Abwehr von Deepfakes von entscheidender Bedeutung. Dazu setzt die Behörde auf die Software eines ausgewählten Startups.

Von MIT Technology Review Online
3 Min.
Artikel merken
Anzeige
Anzeige
(Grafik: Stephanie Arnett / MIT Technology Review)

Das US-Verteidigungsministerium hat über einen Zeitraum von zwei Jahren 2,4 Millionen US-Dollar in die Deepfake-Erkennungstechnologie des Startups Hive AI investiert. Die Defense Innovation Unit des Verteidigungsministeriums will damit erstmals auf vertraglicher Basis die Einführung neuer Technologien für den US-Verteidigungssektor beschleunigen. Die Modelle von Hive AI sollen in der Lage sein, von KI erzeugte Video-, Bild- und Audioinhalte erkennen zu können.

Anzeige
Anzeige

Obwohl es Deepfakes schon seit fast einem Jahrzehnt gibt, sind sie dank generativer KI einfacher zu erstellen und sehen realistischer aus als je zuvor, sodass sie für Desinformationskampagnen oder Betrug missbraucht werden können. Die Verteidigung gegen diese Art von Bedrohungen ist heute für die nationale Sicherheit von entscheidender Bedeutung, sagt Captain Anthony Bustamante, Projektmanager und Cyberwarfare-Operator bei der Defense Innovation Unit.

Hive AI: Verteidigung gegen Deepfakes ist „existenziell“

„Diese Arbeit ist ein wichtiger Schritt zur Stärkung unseres Informationsvorsprungs im Kampf gegen ausgeklügelte Desinformationskampagnen und Bedrohungen durch synthetische Medien“, so Bustamante. Hive wurde aus einem Pool von 36 Unternehmen ausgewählt, um seine Deepfake-Erkennungs- und Attributionstechnologie mit dem Verteidigungsministerium zu testen. Der Vertrag könnte das Ministerium in die Lage versetzen, KI-Täuschungen in großem Umfang zu erkennen und zu bekämpfen. Die Verteidigung gegen Deepfakes ist „existenziell“, sagt Kevin Guo, CEO von Hive AI. „Das ist die Evolution der Cyberkriegsführung“.

Anzeige
Anzeige

Die Technologie von Hive wurde mit einer großen Menge an Inhalten trainiert, von denen einige KI-generiert sind und andere nicht. Sie erkennt Signale und Muster in KI-generierten Inhalten, die für das menschliche Auge unsichtbar sind, aber von einem KI-Modell erkannt werden können.

Auf der Suche nach Mustern in Deepfakes

„Es hat sich herausgestellt, dass jedes Bild, das von einem dieser Generatoren erzeugt wird, diese Art von Muster enthält, wenn man weiß, wo man danach suchen muss“, sagt Guo. Das Hive-Team verfolgt ständig neue Modelle und aktualisiert seine Technologie entsprechend.
Die im Rahmen dieser Initiative entwickelten Tools und Methoden haben das Potenzial, für einen breiteren Einsatz angepasst zu werden, um nicht nur verteidigungsspezifische Herausforderungen zu bewältigen, sondern auch zivile Einrichtungen vor Desinformation, Betrug und Täuschung zu schützen, so das Verteidigungsministerium in einer Erklärung.

Anzeige
Anzeige

Laut Siwei Lyu, Professor für Informatik und Ingenieurwesen an der University at Buffalo, bietet die Technologie von Hive modernste Leistung bei der Erkennung von KI-generierten Inhalten. Er war nicht an der Arbeit von Hive beteiligt, hat aber die Erkennungswerkzeuge getestet.

Ben Zhao, Professor an der University of Chicago, der die Deepfake-Technologie von Hive AI ebenfalls unabhängig evaluiert hat, stimmt dem zu, weist aber darauf hin, dass sie bei weitem nicht narrensicher ist.

Anzeige
Anzeige

Auch die Deepfake-Erkennung von Hive ist nicht perfekt

„Hive ist sicherlich besser als die meisten kommerziellen Unternehmen und einige der von uns getesteten Forschungstechniken, aber wir haben auch gezeigt, dass es nicht schwer zu umgehen ist“, sagt Zhao. Das Team fand heraus, dass Angreifer Bilder auf eine Weise manipulieren können, die die Erkennung von Hive umgeht. Und angesichts der rasanten Entwicklung generativer KI-Technologien ist noch nicht sicher, wie sie sich in realen Szenarien bewähren werden, mit denen der Verteidigungssektor konfrontiert sein könnte, fügt Lyu hinzu.

Guo von Hive sagt, dass man die Modelle des Unternehmens dem Verteidigungsministerium zur Verfügung stellt, sodass die Abteilung die Tools offline und auf ihren eigenen Geräten nutzen kann. So wird verhindert, dass sensible Informationen nach außen dringen.

Doch wenn ein Angriff von außen in Form von Deepfakes droht, reichen Produkte von der Stange nicht aus, meint Zhao: „Es gibt nur sehr wenig, was sie tun können, um sich gegen unvorhergesehene Angriffe auf staatlicher Ebene zu wappnen“.

Anzeige
Anzeige
Dieser Artikel stammt von Melissa Heikkilä. Sie ist Redakteurin bei der US-amerikanischen Ausgabe von MIT Technology Review. Sie berichtet über Entwicklungen auf dem Gebiet der Künstlichen Intelligenz.

Bei diesen Bildern ist klar, dass sie von einer KI generiert wurden

15 lustige von KI generierte Bilder Quelle: Google

 

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige