Anzeige
Anzeige
News
Artikel merken

So kann Harry Potter KI beim Lernen helfen – und beim Verlernen

Das Harry Potter-Universum bietet einen großen und markanten Datenschatz, mit dem Künstliche Intelligenz gefüttert und getestet werden kann. So prüfen Forscher:innen an J.K. Rowlings Mammutwerk nicht nur, wie KI lernt – sondern auch gezielt Inhalte verlernen kann.

Von Sebastian Milpetz
3 Min. Lesezeit
Anzeige
Anzeige
Durchblick dank Harry Potter: Wissenschaftler:innen testen Künstliche Intelligenz gerne mit dem Zauberlehrling (Bild: Midjourney/ t3n)

Seit dem Erscheinen des ersten Bandes im Jahr 1997 ist Harry Potter zu einem allgemeinen, weltweit verbreiteten Phänomen geworden. Selbst Menschen, die keinen der sieben Romane gelesen oder deren Verfilmungen gesehen haben, können mit Begriffen wie Hogwarts oder Muggel etwas anfangen. Figuren wie Dumbledore, Hermine oder Lord Voldemort sind (pop-)kulturelles Gemeingut.

Anzeige
Anzeige

Zitate aus Harry Potter demonstrieren Urheberrechtsverletzungen

Nicht nur diese markanten Begriffe und global bekannten Figuren machen die Fantasyreihe um den Zauberschüler zu einer unschätzbaren Quelle und zu einem präzisen Prüfstein für Künstliche Intelligenz. So lässt sich etwa mithilfe der Potter-Saga aus der Feder von J.K. Rowling beweisen, dass Large Language Models (LLM) wie ChatGPT auf urheberrechtlich geschützte Quellen zurückgreifen.

Für eine im Mai 2023 veröffentlichten Studie der University of California Berkeley haben Wissenschaftler:innen Lückentexte erstellt, die ChatGPT und GPT-4 schließen sollten. Dies konnten die LLM nur, wenn sie exakte Kenntnisse literarischer Werke wie eben dem Harry Potter-Universum besitzen. In den Abschnitten ließen die Wissenschaftler:innen Eigennamen wie Voldemort weg, die nur in diesen Werken auftauchen. Die KI konnte also nicht via Wahrscheinlichkeitsrechnung aus dem Textumfeld schließen, was fehlt.

Anzeige
Anzeige

ChatGPT füllte Lückentexte aus Harry Potter und der Stein der Weisen

Die Ergebnisse der Studie sprachen für sich. Während bei Büchern wie Alice im Wunderland, dessen Urheberrecht abgelaufen ist, die KI zu 98 Prozent richtig lag, waren es beim Copyright-geschützten Harry Potter und der Stein der Weisen waren es immerhin noch 76 Prozent. Doch einen ganz sicheren Beweis, dass ChatGPT geschützte Werke abgreift, lieferte die Studie nicht. Schließlich ist Harry Potter so bekannt, dass Zitate daraus frei zugänglich im Netz kursieren. Einen starken Hinweis auf Urheberrechtsverletzungen lieferten die Forschenden damit aber.

Wie KI mit Harry Potter gezielt Inhalte vergisst

Eine Lösung für dieses Dilemma könnte nun ausgerechnet Tools bieten, die ebenfalls mit Harry Potter operieren. Bloomberg berichtet von mehreren Studien zu dem Themenkomplex des gezielten Vergessens von spezifischen Inhalten.

Anzeige
Anzeige

„Wer ist Harry Potter? Annäherndes Verlernen in LLMs“ nennt sich eine Studie programmatisch. Mark Russinovich und Ronen Eldan von Microsoft haben dafür Llama 2-7b verwendet. Meta hat dieses Model kürzlich als Open-Source bereitgestellt. Die Microsoft-Forscher haben Zitate aus den Harry Potter-Bücher daraus entfernt.

So funktioniert das Verlernen von Potter-Inhalten

Im ersten Schritt trainierten sie ein Model darauf, Token zu identifizieren, die spezifisch für die Potter-Welt sind. Dazu verglichen sie idiosynkratische Ausdrücke aus der Romanreihe mit gewöhnlichen Begriffen eines Basismodells. Im zweiten Schritt ersetzten sie diese Spezialausdrücke durch generische Äquivalente. Damit trainierten sie wiederum ihr Modell. So überschrieben sie quasi die logarithmischen Wahrscheinlichkeitswerte, die auf Potter-Zitate hinwiesen, mit allgemein gültigen Begriffen.

Anzeige
Anzeige

Harry Potter wählten Mark Russinovich und Ronen Eldan gezielt aus, damit andere Forschende ihre mittels Llama 2 erzielten Ergebnisse gut überprüfen können. „Fast jeder kann dem Modell Fragen stellen, um herauszufinden, ob es die Bücher ‚kennt‘ oder nicht“, zititiert Bloomberg die Forscher. „Selbst Menschen, die die Bücher nicht gelesen haben, würden Handlungselemente und Charaktere erkennen.“

Performance eines Modells sank ohne Potter-Kenntnisse

Eine gemeinsame Studie der University of Washington in Seattle, University of California Berkeley und dem Allen Institute for AI nutze ebenfalls Harry Potter als Prüfstein. Die Wissenschaftler:innen erschufen dafür ein Sprachmodell namens Silo, das gezielt urheberrechtlich heikle Daten entfernen soll. Um Silo zu testen, verwendeten sie dafür gemeinfreie Bücher und behördliche Dokumente. Mit diesen wenig konkreten Daten blieb die Performance ihres Modells aber vage.

Also zogen die Forschenden Harry Potter als Härtetest heran. Und schon stieg die Präzision von Silo. Entfernten sie die Potter-Zitate wieder, sank die Leistung prompt.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige