News

Wie KI für schädliche Zwecke missbraucht werden kann – und was wir dagegen tun können

(Foto: Shutterstock)

In einem Paper gehen Wissenschaftler der Frage nach, welche Angriffsszenarien durch künstliche Intelligenz möglich werden, und welche Schritte schon jetzt unternommen werden sollten, um einem Missbrauch der Technologie vorzubeugen.

Im Februar 2017 trafen sich KI-Experten verschiedener Universitäten, der digitalen Bürgerrechtsorganisation Electronic-Frontier-Foundation und der gemeinnützigen KI-Organisation OpenAI in Oxford, um mögliche Gefahren zu erörtern, die der Fortschritt der Technologie mit sich bringen könnte. Jetzt, ein Jahr später, haben sie ihre Erkenntnisse in einem mehr als hundert Seiten starken Dokument veröffentlicht.

In ihrem Paper gehen die Autoren auf unterschiedliche Szenarien ein, bei denen künstliche Intelligenz im und außerhalb des Internets dafür genutzt werden könnte, um Menschen gezielt zu schaden. Eine mögliche Gefahr sehen die Experten beispielsweise darin, dass KI kriminelle Hacker bei ihrer Arbeit unterstützen könnte.

Das ist natürlich längst keine Zukunftsvision mehr, da schon jetzt bisweilen mehr oder minder clevere Bots dazu genutzt werden, persönliche Daten von Nutzern zu erlangen. Auch beim Knacken von Passwörtern kommen allmählich KI-Systeme zum Einsatz. Zukünftig, so die Autoren, dürfte sich das Problem aber noch deutlich steigern.

Von Drohnenangriffen zur staatlichen Überwachung

Auch bei physischen Angriffen auf die Bevölkerung könnten KI-Systeme beteiligt sein. Die Forscher denken hier beispielsweise an Luftangriffe mit Hilfe kommerzieller Drohnen. Intelligente Software könnte Terroristen und Kriminelle aber auch generell bei der Durchführung von Angriffen unterstützen. So könnten Modelle entwickelt werden, die kleinen Gruppen dabei helfen, mit gegebenen Mitteln einen möglichst großen Schaden anzurichten.

Gleichzeitig warnen die Forscher auch davor, wie KI-Systeme bei der Überwachung der Bevölkerung durch Staatsorgane eingesetzt werden könnten. Als mögliches Bedrohungsszenario nennen die Autoren an der Stelle auch den Einsatz von KI-Systemen zum Aufspüren und Unterdrückung abweichender Meinungen.

Forscher fordern mehr Offenheit bei der KI-Entwicklung

Nach Meinung der Autoren des Papers müssen Forschung, Gesellschaft und Staat gemeinsam daran arbeiten, Schutzmechanismen gegen die verschiedenen Bedrohungen zu entwickeln. Kollegen aus Forschung und Entwicklung raten die Autoren, auch Experten aus anderen Forschungsbereichen miteinzubeziehen und fordern außerdem grundsätzlich mehr Offenheit und Austausch. Außerdem sollte der potenzielle Missbrauch von Technologien auch Einfluss auf die Forschungsprioritäten und -standards haben.

Regierungen wiederum wird geraten, eng mit der Forschergemeinschaft zusammenzuarbeiten, um den Anschluss an die technologische Entwicklung nicht zu verpassen. Außerdem müsse die Bevölkerung besser über mögliche Angriffsszenarien unterrichtet werden, damit sie diese im Ernstfall auch erkennen.

Ebenfalls interessant:

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.