KI-Forscher Kary Främling will Black Box der KI öffnen. (Foto: Mattias Pettersson/Umeå University)
Die hinter den großen KI-Modellen stehenden Konzerne wie OpenAI oder Google lassen sich nur ungern in die Karten gucken, wenn es um Trainingsdaten oder die Entscheidungsfindung der Tools geht.
Black-Box-Charakter von KI als Problem
Oft ist Letzteres selbst Expert:innen nicht ganz klar, was etwa bei der Diagnose und Empfehlungen für medizinische Behandlungen oder in Politik und Wirtschaft durchaus kritisch sein kann.
Eine neue Methode, die der finnische KI-Pionier Kary Främling von der Universität Umeå entwickelt hat, soll da künftig Abhilfe schaffen. An der sogenannten CIU-Methode (Contextual Importance and Utility Approach) arbeitet Främling schon seit Jahren – jetzt soll damit die Black Box der KI geöffnet werden, wie es in einer Mitteilung der Universität heißt.
Entscheidungen der KI verstehen
„Für mich geht es darum, sicherzustellen, dass jeder von uns die Entscheidung des Krankenhauses, die Reaktion der Bank auf einen Kreditantrag oder die Entscheidung einer Behörde verstehen kann“, so Främling.
Die CIU-Methode funktioniert übrigens ganz anders als bisherige Versuche, die KI-Systeme und deren Entscheidungen mithilfe von Ersatzmodellen nachzuahmen und zu analysieren. Främling setzt auf die Idee, die Funktionsweise von KI-Modellen daran zu erkennen, wie deren Outputs in Abhängigkeit von bestimmten Eingaben variieren.
Analyse anhand von verschiedenen Variablen
So soll es CIU ermöglichen, die Auswirkungen der Änderung einer oder mehrerer Eingaben – etwa Variablen wie Alter, Geschlecht, Arbeit oder Studium – auf die KI-Ergebnisse zu analysieren und zu erklären. „Das liefert Informationen, die in verständliche Erklärungen und Konzepte übersetzt werden können“, so Främling.
Dank seines Modells, so zeigt sich der KI-Forscher überzeugt, ließen sich statt einer Ahnung genauere Informationen darüber erhalten, was in einem KI-System passiert – oder möglicherweise schiefläuft. Das könne Unternehmen und ihren Kund:innen ebenso helfen wie Behörden und Bürger:innen.
CIU-Methode zum Download verfügbar
Der Quellcode der CIU-Methode ist in den Programmiersprachen Python und R geschrieben und steht auf GitHub zum Download bereit. Das Ganze kann laut Främling auch als Bibliothek installiert und in jedes KI-System integriert werden – auch in klassische, die kein maschinelles Lernen verwenden.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team