Einer künstlichen Intelligenz ist es gelungen, in sechs Stunden 40.000 potenziell tödliche Substanzen zu erfinden. Darunter einige, die VX ähneln, einem der giftigsten Stoffe überhaupt.
KI erfindet 40.000 giftige Stoffe in 6 Stunden
Durchgeführt haben das Experiment Forscher:innen von Collaborations Pharmaceuticals. Das Unternehmen forscht eigentlich mithilfe von Machine Learning an Medikamenten und neuen Behandlungsmöglichkeiten für seltene Erkrankungen. Im Rahmen der Spiez Convergence, einer Konferenz zu Entwicklungen, die Auswirkungen auf die Biowaffenkonventionen haben könnten, erteilten die Wissenschaftler:innen ihrer KI einen etwas anderen Arbeitsauftrag.
Eigentlich, so erklärt der Hauptautor des Papers, Fabio Urbina, gegenüber The Verge, untersuche die KI Moleküle auf ihre Toxizität, um Wirkstoffe zu erschaffen, die nicht gefährlich seien. Für die Konferenz seien die Wissenschaftler:innen jedoch gebeten worden, dieses Prinzip umzudrehen, um zu simulieren, was passieren könnte, wenn eine solche künstliche Intelligenz in die falschen Hände geriete.
Forscher:innen warnen nachdrücklich
Auf diese Idee, so schreiben die Autor:innen, seien sie selbst nicht gekommen. Die Ergebnisse müssten jedoch als „Weckruf“ verstanden werden. Zwar brauche es noch eine gewisse Expertise in Chemie oder Toxikologie, um Stoffe herzustellen, die großen Schaden anrichten könnten. Wenn aber das maschinelle Lernen mit ins Spiel komme, für das man lediglich coden und den Output auswerten können müsse, dann sinke die Schwelle deutlich.
Für den Test konzentrierten sich die Wissenschaftler:innen auf Stoffe, die dem Nervengift VX ähneln. Die KI errechnete nicht nur VX selbst, sondern auch zahlreiche andere bekannte Giftstoffe – und viele neue Moleküle, die die Forscher:innen aufgrund ihrer chemischen Struktur für „möglich“ halten. Sie sollen teilweise sogar noch giftiger sein – „man braucht nur eine sehr, sehr, sehr kleine Menge für eine tödliche Dosis“, erklärt Urbina.
In ihrem Paper gehen die Forscher:innen aus Sicherheitsgründen absichtlich nicht auf einige spezifische Details ein. Denn, das betont Urbina gegenüber The Verge mehrfach, es sei nicht allzu schwer, einige der Moleküle nachzubauen. Wer Python-Kenntnisse habe, die entsprechenden Datensätze aus dem Internet herunterlade und ein Wochenende Arbeit investiere, käme schon recht weit.
Dürfen wir alle Datensätze teilen?
Die Wissenschaftler:innen von Collaborations Pharmaceuticals wünschen sich nun, dass sich so viele Kolleg:innen wie möglich für derartige Szenarien sensibilisieren.
Zudem müsse sich die Wissenschaft mit dem Problem des Teilens von Daten auseinandersetzen. Konzepte wie Open Source und frei zugängliche Erkenntnisse seien wichtig für die Forschung, beinhalteten aber eben auch Datensätze zu Giften und Toxikologie. Hier gelte es, „eine gute Lösung für das Problem zu finden.“
