Du hast deinen AdBlocker an?

Es wäre ein Traum, wenn du ihn für t3n.de deaktivierst. Wir zeigen dir gerne, wie das geht. Und natürlich erklären wir dir auch, warum uns das so wichtig ist. Digitales High-five, deine t3n-Redaktion

News

Tim O’Reilly: „Wir steuern auf Peak Digital zu“

Seite 2 / 2

Immer dann, wenn nur auf eine einzige Funktion optimiert werde, komme es zu unerwünschten Nebenwirkungen. Ganz so wie Johann Wolfgang von Goethes „Zauberlehrling“, dem ein Zauberspruch seines Meisters entgleist, und der dann lamentierend feststellt: „Die ich rief, die Geister werd ich nun nicht los.“

Als Beispiel führt O’Reilly Facebook an, das – um den Unternehmenswert zu steigern – seine Algorithmen vor allem auf möglichst viele Interaktionen der Nutzer hin optimiert hätte. „Facebook wollte nicht die Gesellschaft spalten – aber das war eine Nebenwirkung der Optimierung nur auf Engagement“, sagt der Open-Source-Vordenker.

O’Reilly: Wir sind Teil der KI

Ähnliche Probleme sieht O’Reilly auch beim Thema künstliche Intelligenz. Tesla-Chef Elon Musk, der in künstliche Intelligenz derzeit die größte Gefahr für eine vollständige Auslöschung der Menschheit sieht, zitiert er mit dem Beispiel einer Erdbeer-Erntemaschine. Diese könnte in Zukunft darauf optimiert werden, so viele Erdbeeren wie möglich in möglichst kurzer Zeit zu ernten – und sich dabei immer weiter selbst verbessern. Irgendwann, so befürchtet Musk in diesem Beispiel, könnte die Maschine als das größte Hindernis der Erdbeer-Ernte den Menschen selbst identifizieren. Wie viele Erdbeeren könnte die Maschine ernten, wenn der Mensch nicht überall siedeln und so wertvollen Platz wegnehmen würde? Eine allein auf Erdbeer-Ernte optimierte Maschine könnten in diesem ursprünglich von Philosophen Nick Bostrom popularisierten Gedankenexperiment den Menschen also letztlich auslöschen.

Allerdings sieht O’Reilly auch hier das Problem weniger in der Technologie an sich als vielmehr im Menschen, der die Regeln aufstellt – und mit der KI interagiert. „Wir sind Teil der KI. Ihr seid Teil der Applikationen von Google bis Facebook. Die kommenden selbstfahrenden Autos sind nicht autonom, sie lernen von uns – und wir lernen von ihnen.“

Letztlich stellt O’Reilly damit die Frage nach der Ethik: Die Optimierung von Unternehmen im Finanzmarktkapitalismus auf die alleinige Steigerung des Gewinns führe ebenso in die Irre wie die Optimierung der Maschine auf das Pflücken von Erdbeeren. Statt nur auf Gewinn müssten Unternehmen zunehmend auch darauf optimieren, wie sie der Gesellschaft nützlich sein können. „Wir brauchen mehr Anreize für mehr Gerechtigkeit und dafür, die Produktivitätsgewinne besser zu verteilen“, sagt O’Reilly. „Es ist unser Job herauszufinden, wie wir die Welt zu einem gerechteren und schöneren Ort für alle machen können.“

Mehr zum dem Thema schreib Tim O’Reilly in seinem aktuellen Buch „WTF?: What’s the Future and Why It’s Up to Us.

Startseite
  • Seite:
  • 1
  • 2

Finde einen Job, den du liebst

Bitte beachte unsere Community-Richtlinien

Eine Reaktion
MaNu

Wenn man da einen Anfang finden will, wäre vielleicht 1936/37 richtiger, als Alan Turings grundlegender Aufsatz "On computable numbers, with an application to the Entscheidungsproblem" erschienen ist. Von Neumanns Stack-Architektur war dann nur noch ein (zugegebenermaßen ziemlich praktischer) Spezialfall.

Antworten

Melde dich mit deinem t3n-Account an oder fülle die unteren Felder aus.

Abbrechen