Im Juni 2018 hat die Stanford-Universität, die Kaderschmiede des ­Silicon Valleys schlechthin, vermeldet, dass sie eine neue ­Initiative zu „Ethik, Gesellschaft und Technologie“ plane. „Wir denken über Ethik und den Einfluss neuer Technologien nach“, sagte Universitäts­präsident Marc Tessier-Lavigne dazu in einem Interview mit der ­Financial Times – und fügte überraschend selbst­kritisch hinzu: „Vielleicht wäre etwas mehr Voraussicht vor ­sieben bis zehn Jahren sinnvoll gewesen.“

Es sind neue Töne, die da aus den USA und dem Silicon ­Valley kommen. Eine späte Erkenntnis darüber, dass Hass­kampagnen, Hass­reden, Fake News und Manipulationen in sozialen Netz­werken einen Einfluss auf die öffentliche Meinungsbildung ­haben, der zum Teil dramatische Folgen hat. Etliche Protagonisten aus dem Silicon Valley wie Apple-CEO Tim Cook oder der ehemalige Facebook-­Präsident Sean Parker haben im Laufe des ­Jahres 2018 die problematische Entwicklung der sozialen Netzwerke angemahnt. Der ehemalige Google-­Ingenieur Tristan Harris hat ­aufmerksamkeitsstark das „Center for ­Humane ­Technology“ gegründet und fordert ein Umdenken bei der Technologie­entwicklung hin zu einer stärkeren Ausrichtung an menschlichen ­Bedürfnissen.

Die Kritik der Tech-Prominenz wird untermauert durch eine Studie des Massachusetts Institute of Technology (MIT) aus dem Frühjahr 2018: Darin decken Forscher auf, dass Falschmeldungen von menschlichen Nutzern im Schnitt fast doppelt so oft geteilt werden wie andere. Sie erreichen Nutzer im Schnitt bis zu sechsmal schneller. Auch wenn die Strukturveränderung der öffent­lichen Meinungsbildung durch soziale Medien noch nicht vollständig in Natur und Ausmaß erforscht ist – dass ein Zusammenhang besteht, ist nach den politischen Ereignissen der vergangenen zwei Jahre kaum noch zu leugnen.

Verstärkt werden diese Entwicklungen durch etwas, das eine Gruppe von Designern und Entwicklern, die sich Choice ­Architects nennen, als „Dark Patterns“ beschreibt: User-Inter­face-Muster in Apps und Websites, die die Nutzer unbewusst dazu motivieren, bestimmte Aktionen auszuführen – die Like-Dynamik bei ­Facebook, die das wiederholte Öffnen der App begünstigt, oder das Autoplay von Videos auf Youtube, das eine Endlosschleife von Bewegtbildern erzeugt. Wer kennt diese unbewussten und zwanghaften Smartphone-Momente nicht, bei denen sich der eigentliche Sinn des erneuten App-Checks bei kurzem Nachdenken nicht mehr erschließt?

Während die hiesige Öffentlichkeit sich also an der Krise der sozialen Medien abarbeitet, steht schon längst die ­nächste ­Herausforderung vor der Tür. Künstliche Intelligenz und die zunehmende Automatisierung von Arbeitsprozessen verändern nicht nur, wie wir kommunizieren und uns informieren, sondern werden noch tief greifender unseren Alltag beeinflussen. Die ethische Naivität, die den Aufstieg der sozialen Medien begleitet hat, könnte dann noch fatalere Folgen haben.

Sexistische und rassistische Züge unserer Gesell­schaften werden jetzt schon durch entsprechende vorstrukturierte ­Datensätze, mit denen die KI-Systeme trainiert werden, still und heimlich ins Digitale übersetzt. Intelligente Gesichtserkennung kann Passanten mit einer höheren Trefferquote als ein menschlicher Beobachter identifizieren – die totale Überwachung in der phy­sischen Welt rückt in den Bereich des Machbaren und wird hier und da bereits erprobt. Und durch fortgeschrittene Sprach­erkennung werden Lauschangriffe möglich, von denen Geheimdienstler nur so träumen dürften. Ganz zu schweigen von den ethischen Herausforderungen in den Biotechnologien, die in den vergangenen Jahren aufgrund der zunehmenden Leistungsfähigkeit der Computertechnologie enorme Fortschritte erzielt haben. Lassen wir als Befürworter aufgeklärter und demokratischer ­Gesellschaften die Dinge also einfach so passieren, in der blinden Hoffnung, dass das Gute sich schon durchsetzt? Das würde bedeuten, dem blanken Techno-Optimismus des Silicon Valley blind zu vertrauen.

Die Herausforderungen, die digitale Welt zu regulieren, sind also vielfältig. Natürlich ist die Politik auf internationaler Ebene gefragt. Da ihre Mühlen aber in der Regel eher langsam mahlen, muss eine zweite wichtige Maßnahme Bildung sein. Wer die technischen Systeme baut und gestaltet, die in unseren Smartphones und Tablets stecken, die Wirtschaft antreiben und unseren Alltag zunehmend prägen, der muss lernen, mit dieser Verantwortung umzugehen. Consumer-Apps, aber auch Datenbanken- und Cloud-Technologien, Blockchain-Anwendungen und schließlich künstliche Intelligenz – neben der technischen Expertise braucht es auch eine Sensibilität dafür, welche positiven oder auch ­negativen Auswirkungen diese Technologien auf den Alltag der ­Menschen haben können.

Es ist das Schicksal unserer modernen Wirtschaft, dass sie im großen Maß auf Arbeitsteilung setzt. Ohne die Spezialisierung der Arbeitskraft wäre die globalisierte Ökonomie kaum denkbar. Bedient wird dieser hochdifferenzierte Arbeitsmarkt durch ein komplexes Geflecht aus Studien- und Ausbildungswegen, die häufig kaum noch aufeinander Bezug nehmen: Genauso wenig wie angehende Sozialwissenschaftler während ihres Studiums mit technischen Systemen in Berührung kommen, beschäftigen sich Informatiker mit ethischen oder gesamtgesellschaftlichen Fragestellungen. Auf dem Lehrplan stehen Fachthemen wie ­System- und Rechnerarchitektur, Datenbankenprogrammierung und Informationssysteme, auf neudeutsch gerne auch „Data Science“ oder „Software Engineering“. Fächer wie Ethik oder ­Philosophie fehlen völlig. Hier und da vielleicht mal ein zweitägiges Blockseminar, das war’s aber schon. Gemeinsame Kolloquien, Veranstaltungen oder Debatten von technischen und geistes­wissenschaftlichen Fächern auf dem Campus? Fehlanzeige.

Was wir brauchen, ist eine Renaissance der Geistes­wissenschaften. Mehr denn je müssen wir nicht nur Informatik­studenten – aber vor allem ihnen – ein Grundverständnis darüber vermitteln, was Ethik ist, wie Politik funktioniert und wie Technik auf Gesellschaften wirkt. Die binäre Logik des Digitalen hilft nicht wirklich weiter, wenn es darum geht, ein grundlegendes Verständnis davon zu entwickeln, wie komplex gesellschaftliche Prozesse sind. Ein Anfang wäre eine Pflicht­abdeckung für angehende Informatiker in geisteswissenschaftlichen Fächern – möglichst ab dem Grundstudium. Und damit die Auseinandersetzung mit dem Thema nicht nur pro forma geschieht, wäre es wünschenswert, dass die Prüfungsordnung diese zusätzlichen Lern­einheiten berücksichtigt. Übrigens gilt der interdisziplinäre Ansatz auch andersherum: Geisteswissenschaftler tun gut daran, die Digitalisierung von ihrer technischen Seite besser zu verstehen, um nicht das Klischee zu bedienen, nur gut diskutieren zu können. Wie funktioniert Blockchain? Was ist Deep Learning? Und was hat es mit virtuellen ­Realitäten auf sich?

Denkt man diesen Gedanken konsequent zu Ende, stellt sich die grundsätzliche Frage, wie sinnvoll starre Grenzen zwischen den Fachgebieten im Zeitalter multidisziplinärer und sich ständig wandelnder Jobprofile überhaupt noch sind?

„Die ethische Naivität, die den Aufstieg der ­sozialen Medien begleitet hat, wird bei der Entwicklung ­künstlicher Intelligenz ­fatale Folgen haben.“

Ja, die Restrukturierung der Studiengänge mag uns lang­samer ­machen. Insbesondere in einer kapitalistischen und hoch­vernetzten Welt, in der Informationen in Echtzeit fließen und wir es gewohnt sind, schnelle Lösungen zu entwickeln, mag das Langsame, das Uneindeutige nicht opportun sein. Aber genau das müssen wir aushalten und uns und den kommenden Generationen die nötige Zeit geben, um die richtigen Entscheidungen für die zukünftige Gestaltung unserer Welt zu diskutieren. Vielleicht machen uns solche Reflexionen auch robuster gegen Krisen, wie wir sie aktuell weltweit politisch erleben.

Platon hat einst gesagt: „Denken ist das Selbstgespräch der ­Seele.“ Selbstgespräche sind selbstreferenziell, hinterfragen die ­eigene Person und vor allem das eigene Tun. Vielleicht sollten wir öfter wieder hinterfragen, was gerade eigentlich passiert und Studenten dieses kritische Bewusstsein frühzeitig mit auf den Weg geben. Die Stanford-Universität hat jedenfalls damit ­begonnen.