Anzeige
Anzeige
Analyse
Artikel merken

Wenn die KI nicht weiterweiß: Unsicherheit in autonomen Systemen

Wissenschaft und Wirtschaft tüfteln daran, autonome Systeme für immer komplexere Bereiche fit zu machen. Welche Herausforderungen es dabei gibt und wie man damit umgeht, verrät ein Experte.

4 Min. Lesezeit
Anzeige
Anzeige
Bei der Entwicklung eines autonomen Systems geht es auch darum, für alle Fälle gerüstet zu sein. (Foto: Shutterstock/ metamorworks)

Selbstfahrende Autos, Roboter, die alleine agieren – sie alle werden für ihren Einsatz ausgiebig von Programmierteams trainiert. Aber was, wenn in der realen Welt Dinge passieren, die so nie eingeplant waren? Und was, wenn eine vorprogrammierte Anweisung doch nicht so ausgefeilt war, wie gedacht?

Zu solchen „Unsicherheiten in autonomen Systemen“ promoviert Andreas Kreutz am Fraunhofer Institut für Kognitive Systeme in München. Im Gespräch mit t3n erklärt er, welche Arten von Unsicherheit es gibt – und wie Wissenschaft und Unternehmen versuchen, sie in den Griff zu bekommen.

Anzeige
Anzeige

Die Crux mit der realen Welt: Was autonome Systeme aus dem Takt bringt

Ein junger Mann steht mit verschränkten Armen vor einer dunklen Holzwand. Er lächelt in die Kamera.

Andreas Kreutz promoviert am Fraunhofer Institut für Kognitive Systeme IKS zur Unsicherheit in autonomen Systemen. (Foto: Fraunhofer IKS)

Wer ein autonomes System im Labor entwickelt, versucht, es so gut wie möglich auf alles vorzubereiten, was ihm in der realen Welt begegnen kann. Das Problem: Alle Eventualitäten abzudecken, ist quasi unmöglich.

„Grundsätzlich ist die Frage von Unsicherheit: Versteht man selbst die realen Umgebungen gut genug?“

Da, wo sich bei der Anwendung Lücken zeigen könnten, spricht man von Unsicherheit.

Anzeige
Anzeige

Modellunsicherheit: Die reale Welt lässt sich nur begrenzt abbilden

Für die Entwicklung autonomer Systeme werden zahlreiche Modelle zu Rate gezogen. Die sollen die Bedingungen aus der realen Welt möglichst gut wiedergeben. Dabei müssen allerdings Abstriche gemacht werden – denn je detailgetreuer ein Modell gestaltet ist, desto komplexer und aufwendiger werden die dafür notwendigen Berechnungen.

Andreas Kreutz beschreibt das dadurch entstehende Dilemma so: „Es scheitert dann immer daran, was wirklich nutzbar ist, was auch ökonomisch sinnvoll ist.“ Bei der Entstehung von autonomen Systemen werden deswegen verschiedenste Modelle miteinbezogen, außerdem kann es helfen, den Use-Case einer Anwendung zu beschränken.

Anzeige
Anzeige

Bestehende Modelle werden immer wieder mit neuen Messungen aktualisiert – wenn sie aber schon von Grund auf eher ungenau sind, „hilft der beste Filteralgorithmus nicht“.

Zielunsicherheit: Es braucht klare Anweisungen

Während der Entwicklung bekommt jedes autonome System bestimmte Aufgaben zugewiesen, die es erfüllen soll. Die Schwierigkeit dabei: „Bei autonomen Systeme oder Computern im Allgemeinen muss man natürlich immer sehr präzise und formal spezifizieren: ‚Was will ich und was sollst du machen?‘“

Anzeige
Anzeige

Damit hier keine Zielunsicherheit entsteht, braucht es derzeit Expert:innen, die die Aufgaben eines Systems so genau wie möglich formulieren. Wenn es mehrere Ziele gibt, hilft es, zu priorisieren. Welches Ziel ist unausweichlich, welche Ziele können im Zweifel zurückgestellt werden? Insgesamt, so Kreutz, sei das langfristige Ziel, natürliche Sprache besser verarbeiten zu können – sodass irgendwann auch Laien Befehle geben können.

Umgebungsunsicherheit: Immer wieder etwas Neues

Im alltäglichen Gebrauch werden autonome Systeme immer wieder mit Faktoren in ihrer Umgebung konfrontiert, die bei der Entwicklung so nicht absehbar waren.

Kreutz nennt dafür ein Beispiel aus der Logistik: „Grundsätzlich kann man vielleicht davon ausgehen, dass ein Mensch, der sich im Lager aufhält, eine gewisse Ausbildung hat und zum Beispiel einem Gabelstapler aus dem Weg gehen würde. Aber was ist, wenn jetzt – vielleicht am Buß- und Bettag – die Tochter des Lagerarbeiters zur Kinderbetreuung da ist?“

Anzeige
Anzeige

Um Unfälle zu vermeiden, könne man zum einen die Umgebung eines autonomen Systems so einfach wie möglich halten, erklärt Kreutz. Ein Beispiel dafür sind die sogenannten Safety-Cages – „da kommt nichts rein, was nicht von Anfang an mit einkalkuliert worden ist“.

Kommt das System in einer etwas offeneren Umgebung zum Einsatz, sieht die Lösung bei unerwarteten Zwischenfällen häufig so aus: Die Maschine stoppt, meldet den Fehler und wartet auf einen menschlichen Supervisor. Ein teures Prozedere – schließlich entstehen beim Warten auf Anweisungen meist Produktionseinbußen.

Deswegen versuchen Unternehmen immer wieder innovativere Lösungen in offenen Umgebungen anzubieten. Die Probleme, auf die sie dabei stoßen, werden zwar immer wieder zeitnah behoben, „aber das ist natürlich nicht sehr vertrauenserweckend“.

Anzeige
Anzeige

Ressourcenunsicherheit: Empfindliches Zusammenspiel

Ob Kameras oder Sensoren: Jedes autonome System besteht aus zahlreichen empfindlichen Einzelkomponenten. Die stellen sicher, dass zum Beispiel ein autonomes Fahrzeug den Verkehr um sich herum abschätzen und auf Veränderungen – Stau, rote Ampeln etc.– reagieren kann.

Aber was, wenn ein Bauteil ausfällt? Hier spricht man von Ressourcenunsicherheit. Klar ist, so Andreas Kreutz: „Selbst, wenn Einzelkomponenten nicht planmäßig funktionieren, muss trotzdem noch garantiert sein, dass das System funktioniert und sicher ist.“

Aktuell wird der Ressourcenunsicherheit vor allem mit Redundanz begegnet. Die wichtigsten Komponenten werden nicht nur einmal verbaut, sondern mehrfach. So kann das System einzelne Ausfälle verkraften. Der Nachteil dabei: Zusätzliche Teile erzeugen zusätzliche Kosten.

Anzeige
Anzeige

Funktionsunsicherheit:

Damit autonome Systeme mit ihrer Umwelt interagieren können, werden sie mit speziell programmierten Funktionen ausgestattet – zum Beispiel mit Algorithmen zur Bilderkennung oder einem Greifarm, der vorgegebene Bewegungen ausführt.

Zur Funktionsunsicherheit gehören dann Fragen wie: „Hat der Algorithmus das Objekt auf dem Bild richtig erkannt? Wurde der Greifprozess richtig geplant, sodass das Objekt nicht aus dem Greifer herausfällt oder zerdrückt wird?“ Um sicherzustellen, dass im Ernstfall alles klappt, braucht es zahlreiche Testdurchläufe.

Allwissende KI? Woran die Forschung jetzt arbeitet

Für viele verhältnismäßig einfache Anwendungsfälle sind die verschiedenen Unsicherheiten mittlerweile gut erschlossen. Jetzt arbeiten Wissenschaft und Wirtschaft am Vorstoß in immer komplexere Bereiche. Ein Beispiel dafür: autonomes Fahren.

Anzeige
Anzeige

Dass es irgendwann autonome Systeme geben wird, die vollkommen frei von Unsicherheiten sind, hält Andreas Kreutz für unwahrscheinlich. „Vielmehr wird eben die Lösung sein, dass Unsicherheit erkannt und eine Reaktion darauf geplant wird.“ Zunächst werden diese Anpassungen von Entwicklungsteams übernommen. Langfristig soll es dann aber auch anders gehen: „Irgendwann sind die Computer […] vielleicht self-adaptive, also in der Lage, sich selbst zu verwalten.“

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige