Im Februar 2017 trafen sich KI-Experten verschiedener Universitäten, der digitalen Bürgerrechtsorganisation Electronic-Frontier-Foundation und der gemeinnützigen KI-Organisation OpenAI in Oxford, um mögliche Gefahren zu erörtern, die der Fortschritt der Technologie mit sich bringen könnte. Jetzt, ein Jahr später, haben sie ihre Erkenntnisse in einem mehr als hundert Seiten starken Dokument veröffentlicht.

In ihrem Paper gehen die Autoren auf unterschiedliche Szenarien ein, bei denen künstliche Intelligenz im und außerhalb des Internets dafür genutzt werden könnte, um Menschen gezielt zu schaden. Eine mögliche Gefahr sehen die Experten beispielsweise darin, dass KI kriminelle Hacker bei ihrer Arbeit unterstützen könnte.

Das ist natürlich längst keine Zukunftsvision mehr, da schon jetzt bisweilen mehr oder minder clevere Bots dazu genutzt werden, persönliche Daten von Nutzern zu erlangen. Auch beim Knacken von Passwörtern kommen allmählich KI-Systeme zum Einsatz. Zukünftig, so die Autoren, dürfte sich das Problem aber noch deutlich steigern.

Auch bei physischen Angriffen auf die Bevölkerung könnten KI-Systeme beteiligt sein. Die Forscher denken hier beispielsweise an Luftangriffe mit Hilfe kommerzieller Drohnen. Intelligente Software könnte Terroristen und Kriminelle aber auch generell bei der Durchführung von Angriffen unterstützen. So könnten Modelle entwickelt werden, die kleinen Gruppen dabei helfen, mit gegebenen Mitteln einen möglichst großen Schaden anzurichten.

Gleichzeitig warnen die Forscher auch davor, wie KI-Systeme bei der Überwachung der Bevölkerung durch Staatsorgane eingesetzt werden könnten. Als mögliches Bedrohungsszenario nennen die Autoren an der Stelle auch den Einsatz von KI-Systemen zum Aufspüren und Unterdrückung abweichender Meinungen.

Nach Meinung der Autoren des Papers müssen Forschung, Gesellschaft und Staat gemeinsam daran arbeiten, Schutzmechanismen gegen die verschiedenen Bedrohungen zu entwickeln. Kollegen aus Forschung und Entwicklung raten die Autoren, auch Experten aus anderen Forschungsbereichen miteinzubeziehen und fordern außerdem grundsätzlich mehr Offenheit und Austausch. Außerdem sollte der potenzielle Missbrauch von Technologien auch Einfluss auf die Forschungsprioritäten und -standards haben.

Regierungen wiederum wird geraten, eng mit der Forschergemeinschaft zusammenzuarbeiten, um den Anschluss an die technologische Entwicklung nicht zu verpassen. Außerdem müsse die Bevölkerung besser über mögliche Angriffsszenarien unterrichtet werden, damit sie diese im Ernstfall auch erkennen.