Was hat Immanuel Kant mit künstlicher Intelligenz zu tun? Nicht nur die Ähnlichkeiten zwischen den Initialen des Philosophen – IK – und der Technik – KI – spielen dabei eine Rolle. Der Philosoph setzte sich schon vor mehreren hundert Jahren mit Fragen zum menschlichen Verständnis auseinander: Was kann ich wissen? Was soll ich tun? Was darf ich hoffen?

Diese Fragen bekommen heute – vor dem Hintergrund der fortschreitenden Integration von KI in die Industrie – eine neue Relevanz. Es geht dabei insgesamt um das Warum: Mit welchem Wissen werden Entscheidungen getroffen und wie werden sie begründet? Die Maschine habe kein Verständnis davon, warum sie etwas tue – darin waren sich Reinhard Karger, Sprecher des Deutschen Forschungszentrums für künstliche Intelligenz, und Philosoph Matthias Pfeffer bei einer Podiumsdiskussion auf der Hannover Messe 2024 einig.

Dabei sei gerade diese „Warum“ entscheidend, um mit KI bedacht umzugehen. Karger lieferte dazu ein Beispiel: Eine Person nutzt während einer Autofahrt ein Navigationsgerät. Eigentlich kennt sie die Strecke grob und hat eine Vorstellung, welche Route sie nehmen möchte. Durch das Navigationsgerät wird sie auf einmal auf eine andere Route verwiesen.

Automatisch käme die Frage nach dem „Warum“ auf. Die Person wolle wisse, warum das Navigationsgerät eine andere Route wählt. Eine Antwort gibt es darauf in heutigen Systemen nicht – die Software weiß gar nicht, dass eine andere Route seitens des Fahrers gewünscht war.

Generell kann KI noch nicht argumentieren – Unternehmen arbeiten aktuell jedoch daran, dass sich dies ändert. Kein Wunder: Denn gerade das Abwägen von verschiedenen Positionen – was natürlich entsprechendes Wissen voraussetzt – befähigt Menschen, Entscheidungen bewusst zu treffen. Frei nach Kants Satz: „Habe Mut, dich deines eigenen Verstandes zu bedienen.“ Ohne Begründung reagieren Menschen nur auf die Antworten der Technik.

Ein Beispiel, wie die Industrie aktuell mit KI-Entscheidungen umgeht, ist in einer anderen Halle zu sehen. Auf einer Bühne geht es um die sichere Nutzung digitaler Zwillinge. Ein digitaler Zwilling ist die digitale Abbildung einer real existierenden Maschine.

Unternehmen können mit diesen digitalen Zwillingen etwa die Produktion besser steuern und überwachen, auch wenn die eigentliche Maschine an einem anderen physischen Standort steht. Für Sicherheit in der Produktion könne zwischen dem digitalen Zwilling und der realen Maschine Datenaustausch in beide Richtungen erfolgen.

Der digitale Zwilling kann – im Unternehmen vernetzt mit weiteren Maschinen – etwa Fehler bei der Produktion erkennen. Dafür werden Daten genutzt, die die Maschine liefert, die tatsächlich im Einsatz ist. Damit die Produktion möglichst reibungslos läuft, soll die Software bei Problemen selbst Entscheidungen treffen.

Im übertragenen Sinn, mit Blick auf die Aussagen des Philosophen und des Forschers, soll sie also Entscheidungen treffen – etwa, ob ein Fehler so schlimm ist, dass die Produktion gestoppt werden muss. Ihr „Wissen“ besteht dabei aus den Daten der Maschine. Allerdings kann sie dies nicht wie ein Mensch interpretieren, sondern handelt vereinfacht gesagt auf Basis von Mustern, die Menschen mitunter gar nicht nachvollziehen können.

Das zeigt die Herausforderung: Überwachung und Entscheidung werden vom Menschen weg verlagert. Dabei entsteht die Frage, wie die Software die Entscheidung begründet, die sie trifft.

Dieser Trend der Verlagerung von Aufgaben auf Maschinen mit KI-unterstützer Software ist auf der gesamten Messe zu erkennen. Vorteilhaft ist das Sparen von Zeit und Arbeitskraft. Die können dafür an anderer Stelle eingesetzt werden.

Nachteilig ist jedoch der Verlust von Nachvollziehbarkeit und Kontrolle. Wenn Maschinen uns Entscheidungen abnehmen, kann das zu einem Problem werden. Um dem entgegenzuwirken, forderte Karger das Hinterfragen von Software­prozessen, statt einfach den Ausgaben einer Maschine zu folgen. Sprachmodelle hätten zwar eine „fantastische Sprachlichkeit“, so Karger, allerdings verstünden sie nicht, worum es inhaltlich geht. Frei nach der ersten berühmten Frage von Kant: Die Maschine kann nicht wissen, was sie wissen kann.

Für die Industrie bedeutet diese Grundlage, die Nutzung von KI umso genauer zu planen und auch entsprechend zu begrenzen. Insgesamt wird es in Zukunft auf die sinnvolle und bewusste Nutzung von KI-unterstützter Hardware ankommen – stets mit dem Grundsatz: Kein Mensch sollte blind Maschinen vertrauen.