Ethische Fragen spielen bei der Diskussion um KI-Nutzung immer wieder eine Rolle. Eine international angelegte Umfrage von Nature zeigt jetzt, dass Wissenschaftler:innen verschiedene Ansichten darüber haben, wann und wie der Einsatz von KI für ihre Publikationen vertretbar ist.

Um herauszufinden, wie Wissenschaftler:innen den Einsatz von KI für wissenschaftliche Artikel bewerten, wurden weltweit 5.000 Forschende befragt. Außerdem wurden sie nach ihrer Erfahrung zur Nutzung von KI-Tools für das Schreiben ihrer Artikel befragt. Die Umfrageergebnisse zeigen, dass unter Forschenden große Uneinigkeit darüber herrscht, welche Vorgehensweisen im Umgang mit Künstlicher Intelligenz als angemessen gelten. Zwar halten viele den Einsatz von KI, zum Beispiel zur Vorbereitung wissenschaftlicher Manuskripte, grundsätzlich für vertretbar – tatsächlich nutzen aber nur wenige diese Möglichkeit. Jene, die es tun, geben jedoch häufig an, die Verwendung von KI nicht kenntlich zu machen. 

Die Nature-Umfrage stellte mehrere Szenarien vor, in denen ein fiktiver Wissenschaftler namens Dr. Bloggs KI einsetzte, ohne es kenntlich zu machen. Die Studienteilnehmenden sollten die Anwendungsszenarien von Dr. Bloggs bewerten. Jedes Szenario konnte von den Teilnehmenden wie folgt bewertet werden:

• Angebracht
• Nur angebracht, wenn KI-Nutzung kenntlich gemacht wird
• Unter keinen Umständen angebracht
• szenario-spezifische Antwortmöglichkeit

Etwa 90 Prozent der Befragten halten es für akzeptabel, wenn generative KI zum Beispiel zur Bearbeitung oder Übersetzung ihrer Forschungsarbeiten verwendet wird. Sie sind sich jedoch uneinig darüber, ob die Verwendung von KI kenntlich gemacht werden sollte oder nicht. Auch wenn es darum geht, neue Texte mithilfe von KI zu erstellen – beispielsweise um einen ganzen Artikel oder nur einen Teil davon zu schreiben – gehen die Meinungen deutlich auseinander.

Grundsätzlich gibt nur ein kleiner Teil der befragten Wissenschaftler:innen an, KI bereits für die in der Nature-Studie vorgestellten Szenarien genutzt zu haben. Am häufigsten wird angegeben, KI zur sprachlichen Überarbeitung eigener Texte zu nutzen, oder sich vorstellen zu können, KI dafür künftig zu verwenden. Deutlich geringer fällt die Nutzung für andere Bereiche aus: Nicht einmal zehn Prozent haben KI bislang für die Erstellung von Entwürfen, Zusammenfassungen fremder Arbeiten, Übersetzungen eigener Arbeiten oder zur Unterstützung von Peer-Review-Verfahren verwendet.

Forschende stehen noch am Anfang, die ethischen Aspekte des Einsatzes von KI im wissenschaftlichen Schreiben zu klären. Die International Association of Scientific, Technical & Medical Publishers (STM) hat beispielsweise einen Berichtsentwurf veröffentlicht, in dem eine Klassifizierung verschiedener KI-Anwendungen vorgenommen wurde. „Wir hoffen, dass Verlage – und das gesamte Ökosystem – diese Terminologie übernehmen werden“, sagt Joris van Rossum, Programmdirektor von STM Solutions, einer Tochtergesellschaft von STM.

Die meisten wissenschaftlichen Verlage haben bestimmte Anweisungen, die den Einsatz von KI betreffen: sie verbieten in der Regel die Nutzung von KI-Tools zur Erstellung, Veränderung oder Manipulation von Daten und Ergebnissen. Auch als Autor:innen dürfen KI-Systeme nicht genannt werden, da sie keine Verantwortung für wissenschaftliche Arbeiten übernehmen können. Einheitliche Regeln gibt es jedoch nicht. Die Richtlinien variieren stark, insbesondere bei der Anforderung, ob und in welcher Form KI-Nutzung kenntlich gemacht werden muss.