KI-Forscher Kary Främling will Black Box der KI öffnen. (Foto: Mattias Pettersson/Umeå University)
Die hinter den großen KI-Modellen stehenden Konzerne wie OpenAI oder Google lassen sich nur ungern in die Karten gucken, wenn es um Trainingsdaten oder die Entscheidungsfindung der Tools geht.
Black-Box-Charakter von KI als Problem
Oft ist Letzteres selbst Expert:innen nicht ganz klar, was etwa bei der Diagnose und Empfehlungen für medizinische Behandlungen oder in Politik und Wirtschaft durchaus kritisch sein kann.
Eine neue Methode, die der finnische KI-Pionier Kary Främling von der Universität Umeå entwickelt hat, soll da künftig Abhilfe schaffen. An der sogenannten CIU-Methode (Contextual Importance and Utility Approach) arbeitet Främling schon seit Jahren – jetzt soll damit die Black Box der KI geöffnet werden, wie es in einer Mitteilung der Universität heißt.
Entscheidungen der KI verstehen
„Für mich geht es darum, sicherzustellen, dass jeder von uns die Entscheidung des Krankenhauses, die Reaktion der Bank auf einen Kreditantrag oder die Entscheidung einer Behörde verstehen kann“, so Främling.
Die CIU-Methode funktioniert übrigens ganz anders als bisherige Versuche, die KI-Systeme und deren Entscheidungen mithilfe von Ersatzmodellen nachzuahmen und zu analysieren. Främling setzt auf die Idee, die Funktionsweise von KI-Modellen daran zu erkennen, wie deren Outputs in Abhängigkeit von bestimmten Eingaben variieren.
Analyse anhand von verschiedenen Variablen
So soll es CIU ermöglichen, die Auswirkungen der Änderung einer oder mehrerer Eingaben – etwa Variablen wie Alter, Geschlecht, Arbeit oder Studium – auf die KI-Ergebnisse zu analysieren und zu erklären. „Das liefert Informationen, die in verständliche Erklärungen und Konzepte übersetzt werden können“, so Främling.
Dank seines Modells, so zeigt sich der KI-Forscher überzeugt, ließen sich statt einer Ahnung genauere Informationen darüber erhalten, was in einem KI-System passiert – oder möglicherweise schiefläuft. Das könne Unternehmen und ihren Kund:innen ebenso helfen wie Behörden und Bürger:innen.
CIU-Methode zum Download verfügbar
Der Quellcode der CIU-Methode ist in den Programmiersprachen Python und R geschrieben und steht auf GitHub zum Download bereit. Das Ganze kann laut Främling auch als Bibliothek installiert und in jedes KI-System integriert werden – auch in klassische, die kein maschinelles Lernen verwenden.
