News

Tim O’Reilly: „Wir steuern auf Peak Digital zu“

Seite 2 / 2

Immer dann, wenn nur auf eine einzige Funktion optimiert werde, komme es zu unerwünschten Nebenwirkungen. Ganz so wie Johann Wolfgang von Goethes „Zauberlehrling“, dem ein Zauberspruch seines Meisters entgleist, und der dann lamentierend feststellt: „Die ich rief, die Geister werd ich nun nicht los.“

Als Beispiel führt O’Reilly Facebook an, das – um den Unternehmenswert zu steigern – seine Algorithmen vor allem auf möglichst viele Interaktionen der Nutzer hin optimiert hätte. „Facebook wollte nicht die Gesellschaft spalten – aber das war eine Nebenwirkung der Optimierung nur auf Engagement“, sagt der Open-Source-Vordenker.

O’Reilly: Wir sind Teil der KI

Ähnliche Probleme sieht O’Reilly auch beim Thema künstliche Intelligenz. Tesla-Chef Elon Musk, der in künstliche Intelligenz derzeit die größte Gefahr für eine vollständige Auslöschung der Menschheit sieht, zitiert er mit dem Beispiel einer Erdbeer-Erntemaschine. Diese könnte in Zukunft darauf optimiert werden, so viele Erdbeeren wie möglich in möglichst kurzer Zeit zu ernten – und sich dabei immer weiter selbst verbessern. Irgendwann, so befürchtet Musk in diesem Beispiel, könnte die Maschine als das größte Hindernis der Erdbeer-Ernte den Menschen selbst identifizieren. Wie viele Erdbeeren könnte die Maschine ernten, wenn der Mensch nicht überall siedeln und so wertvollen Platz wegnehmen würde? Eine allein auf Erdbeer-Ernte optimierte Maschine könnten in diesem ursprünglich von Philosophen Nick Bostrom popularisierten Gedankenexperiment den Menschen also letztlich auslöschen.

Allerdings sieht O’Reilly auch hier das Problem weniger in der Technologie an sich als vielmehr im Menschen, der die Regeln aufstellt – und mit der KI interagiert. „Wir sind Teil der KI. Ihr seid Teil der Applikationen von Google bis Facebook. Die kommenden selbstfahrenden Autos sind nicht autonom, sie lernen von uns – und wir lernen von ihnen.“

Letztlich stellt O’Reilly damit die Frage nach der Ethik: Die Optimierung von Unternehmen im Finanzmarktkapitalismus auf die alleinige Steigerung des Gewinns führe ebenso in die Irre wie die Optimierung der Maschine auf das Pflücken von Erdbeeren. Statt nur auf Gewinn müssten Unternehmen zunehmend auch darauf optimieren, wie sie der Gesellschaft nützlich sein können. „Wir brauchen mehr Anreize für mehr Gerechtigkeit und dafür, die Produktivitätsgewinne besser zu verteilen“, sagt O’Reilly. „Es ist unser Job herauszufinden, wie wir die Welt zu einem gerechteren und schöneren Ort für alle machen können.“

Mehr zum dem Thema schreib Tim O’Reilly in seinem aktuellen Buch „WTF?: What’s the Future and Why It’s Up to Us.

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Ein Kommentar
MaNu
MaNu

Wenn man da einen Anfang finden will, wäre vielleicht 1936/37 richtiger, als Alan Turings grundlegender Aufsatz „On computable numbers, with an application to the Entscheidungsproblem“ erschienen ist. Von Neumanns Stack-Architektur war dann nur noch ein (zugegebenermaßen ziemlich praktischer) Spezialfall.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.