„Schließ die Augen und stell dir ein Kartenblatt vor.“ Es gab einmal einen Sommer, in dem ich ein kleines Repertoire an Kartentricks beherrschte. Und ich lernte schnell: Niemand verschmäht einen guten Kartentrick. Im Gegenteil, die Leute baten mich ständig, denselben Trick wieder und wieder zu zeigen. Nicht aus Bewunderung, sondern aus Jagdinstinkt. Sie wollten unbedingt herausfinden, wie er funktioniert. Denn alle waren sich sicher: Magie gibt es nicht.

Umso frappierender erscheint mir der Unterschied zur Welt der Technologie. Dort lassen sich Menschen gerne verzaubern. Künstlicher Intelligenz haftet für viele etwas Magisches an, ohne dass sie ernsthaft hinterfragen, wie diese Systeme tatsächlich funktionieren. Als Joseph Weizenbaum Mitte der 1960er Jahre den Chatbot Eliza entwickelte, wollte er genau diesen Mechanismus sichtbar machen. Das Programm hat in den Fragen seiner Nutzenden nach Schlüsselwörtern gesucht und mit vorgegebenen Phrasen zu diesen Begriffen geantwortet. Die bekannteste Version war das Doctor-Skript – die Simulation eines Psychotherapeuten. Eliza sollte beweisen, dass Chatbots keine Magie sind, denn diese Maschinen können menschliches Denken und Fühlen nicht wirklich nachahmen.

Doch das Experiment ging nach hinten los. Nutzer:innen nahmen das Programm erstaunlich ernst, vertrauten ihm intimste Dinge an und waren überzeugt, dass mehr dahintersteckte als ein paar simple Muster und Schlüsselwörter. Selbst als Weizenbaum panisch den Source Code veröffentlichte, tat das den Spekulationen keinen Abbruch.

Man muss wissen: Wir Menschen sind so gebaut, dass wir zwar rational begreifen, dass Magie nicht existiert, wollen sie aber trotzdem erleben. Unser Gehirn ist darauf trainiert, Muster zu erkennen, Verbindungen zu sehen, wo keine sind, und Dingen Absichten zuzuschreiben.

Doch was unterscheidet meine Kartenmagie, deren Tricks jede:r entlarven wollte, von der Tech-Magie, die kaum jemand hinterfragt? Meine These: Es ist die intellektuelle Fallhöhe. Ein Kartentrick hat faktisch keine Fallhöhe, jede:r könnte ihn durchschauen. Bei komplexen Technologien wie Quantencomputing oder Künstlicher Intelligenz jedoch tritt etwas auf, das die Vordenkerin Meredith Whittaker als „intellektuelle Scham“ beschreibt. Die Scham, durch eine einfache Nachfrage als jemand entlarvt zu werden, der nicht versteht, wie die Technologie funktioniert.

Diese Scham durchzieht alle Bildungsschichten, und ich wage zu behaupten, sie trifft Menschen mit akademischem Prestige besonders häufig. Wer möchte schon zugeben, hinter dem technologischen Zeitgeist zurückzufallen? Dass der eigene Intellekt nicht Schritt hält mit den rasanten Entwicklungen? Um nicht aufzufallen, stimmt man auf Linkedin eifrig in die Choräle von KI, Quanten und Supercomputing ein. Die Entzauberung überlässt man den wenigen, die noch bereit sind, unbequeme Fragen zu stellen.

Big-Tech-Bossen spielt diese intellektuelle Scham in die Karten. Ihre Macht bleibt unangefochten, solange technologische Systeme als geheimnisvoll erlebt werden. Wer die Illusion aufrechterhält, behält die Kontrolle.

Was mir aus dem Sommer der Kartentricks geblieben ist? Die Einsicht, dass die eigentliche Macht nicht bei den Magiern, sondern beim Publikum liegt, das entscheidet, ob es sich verzaubern lässt oder eben nicht. In diesem Sinne wünsche ich uns allen eine Portion intellektuelle Furchtlosigkeit.