Vor sieben Jahren hat sie das Licht der Technologie-Welt erblickt, seit fünf Jahren spricht Amazons Alexa auch deutsch. Die häufig prophezeite Dominanz der displaylosen Gadgets ist zumindest bisher noch nicht zu erkennen, aber die Voice-Assistenten haben inzwischen ihren festen Platz im Technologie-Mix. Viele Menschen nutzen Amazons Alexa täglich, um sich zu informieren, Musik abzuspielen, Fernseher und Smarthome-Geräte zu steuern. Aber es gibt auch viele, die dem digitalen Assistenten und der Hardware, die in ihr steckt, misstrauen – manchmal aber auch dem Unternehmen dahinter.

Anne Toth ist die Frau, die das ändern will und für Vertrauen sorgen soll: Seit August 2020 ist sie Alexa Trust Director bei Amazon weltweit. Sie hat einen beeindruckenden Track-Record in Sachen Digital und Daten, hat vor Amazon bei Slack, Google, aber auch beim Weltwirtschaftsforum in genau diesem Bereich gearbeitet.

Im t3n-Gespräch erklärt Anne Toth, wie das Trust-Team arbeitet. Dazu gehört auch, sich mit den den klassischen Verdachtsmomenten auseinanderzusetzen. Zum Beispiel der Frage, ob Alexa wirklich nur zuhört, wenn das auch gewünscht ist. Die Geschichte von der immer lauschenden Alexa ist, sagt Amazon-Frau Toth, „eine der häufigsten Fehleinschätzungen. Wir haben das Gerät so konzipiert, dass es nur wenige Wörter gibt, auf die es hört, typischerweise das Wort Alexa. Der Name ist das Aufforderungswort.“ Erst wenn Alexa das Weckwort erkenne – andere Möglichkeiten sind Echo, Computer oder in Zukunft auch Ziggy –, würden Daten in die Cloud gestreamt. Komplett taub sei Alexa, wenn das Mikrofon physisch mit der Stummschalttaste deaktiviert werde. „Das rote Licht kann nicht gleichzeitig mit dem Mikrofon eingeschaltet sein, weil die Elektronik das nicht zulässt. Es ist unmöglich für uns, zuzuhören, und das ist ein Beispiel für eine sehr bewusste Entscheidung zum Schutz der Privatsphäre.“

Mit der Art von Misstrauen, die Amazon und Alexa häufig begegnet, muss sich jedes große Technologieunternehmen auseinandersetzen. Tatsächlich haben gerade die Tech-Riesen in der Vergangenheit dafür auch einige Nahrung geliefert. Anne Toth sieht darin allerdings kein allzu großes Problem. „Nun, mein Titel enthält das Wort Vertrauen. Ich bin Direktor von Alexa Trust. Alexa Trust ist eigentlich eine ganze Organisation innerhalb der Alexa-Produktgruppe. Ich denke, es ist eine sehr bewusste Entscheidung, wenn man einen intelligenten Lautsprecher baut. Man muss über den Datenschutz nachdenken. Wir wollen, dass die Menschen die Vorteile des Dienstes nutzen können.“

Aber um alle Vorteile nutzen zu können, brauche es Vertrauen in den Service. Toth sieht Amazon da in einer guten Position. „Wir haben festgestellt, dass wir den Vorteil haben, dass viele Menschen Amazon vertrauen, seit Jahren bei Amazon einkaufen. Wir bauen auf diese Vertrauensbeziehung zum Kunden.“

Dieses Vertrauen dürfe aber nicht aufs Spiel gesetzt werden. „Die Menschen vertrauen nur dann, wenn man nichts tut, das dieses Vertrauen verletzt, und dadurch riskiert, diese Kundenbeziehung zu verlieren. Ich glaube, das erkennen auch wir. Dieses Vertrauen hat sich über viele Hunderte und Tausende von kleinen Interaktionen aufgebaut, kann aber mit einem unerwarteten Ergebnis oder einer negativen Überraschung zerstört werden. Deshalb legen wir die Messlatte sehr hoch, um das Vertrauen zu erhalten, das die Menschen uns entgegenbringen. Wir nehmen das sehr ernst, so sehr, dass es bei Alexa eine ganze Organisation gibt, die sich ausschließlich mit Vertrauensfragen beschäftigt“. Dass die Existenz dieses Trust-Teams nicht wirklich bekannt ist, sieht die Direktorin selbst eher positiv. „Wenn wir unsere Arbeit machen, müssen die Leute nicht über uns nachdenken. Das ist das eigentlich eine gute Sache.“

So seien Datenschutz und Sicherheit sehr wichtig, das Team entwickle alle Datenschutzfunktionen für Alexa. Dazu gehören auch Befehle wie „Alexa lösche alles, was ich jemals gesagt habe“ oder „Alexa lösche, was ich gerade gesagt habe“. Die europäische Perspektive in Bezug auf den Datenschutz ist dabei nach Ansicht von Anne Toth „offen gesagt viel ausgereifter ist als der Ansatz der USA. Für uns in den USA ist das relativ neu. Aber als globale Unternehmen müssen wir darüber nachdenken, wie wir die Bedürfnisse nicht nur einer einzigen Kundengruppe erfüllen können. Und das ist sowohl eine Herausforderung als auch eine Chance für uns, uns weiter zu verbessern.“

Die Aufgabe des Trust-Teams gehe dabei aber über die reinen Datenschutz-Aspekte hinaus, erklärt Toth. „Wir entwickeln auch Zugänglichkeitsfunktionen und Funktionen für ältere Kunden. Auch hier geht es darum, dass die Technologie einfach funktioniert. Viele Kunden haben kognitive oder körperliche Einschränkungen. Die Dienste funktionieren dann nicht immer genau so, wie man es erwarten würde. Wir haben also ein Team von Leuten, die dabei helfen, diese Funktionen zu entwickeln, um Alexa für alle zugänglich zu machen. Wir stellen sicher, dass die Inhalte, die wir zurückgeben, zugänglich sind. Wenn Sie Alexa eine Frage stellen, erhalten Sie eine Antwort, die korrekt, zeitnah und vor allem nicht beleidigend ist. Das sind die wichtigsten Bereiche, auf die wir uns konzentrieren. Wir arbeiten an einer Reihe von verschiedenen Themen, die dadurch miteinander verbunden sind, dass sie unter dem Dach des Vertrauens stehen.“

Dabei geht es dann natürlich auch wieder um den Umgang mit Daten. „Die Antwort sollte immer lauten, dass die Daten genutzt werden, um den Service für die Menschen zu verbessern. Alexa ist eine KI, sie lernt durch maschinelles Lernen und maschinelles Lernen lernt aus Daten. Die Daten, die wir von allen Kunden sammeln, die Alexa nutzen, werden in erster Linie dazu verwendet, das Produkt zu verbessern.“ Dabei wolle Amazon eben auch Menschen erreichen, die aus welchen Gründen auch immer nicht im gleichen Muster sprechen. „Vielleicht haben Sie Parkinson und Ihre Sprachfähigkeiten haben sich verschlechtert. Für diese Kundinnen und Kunden gut zu arbeiten, hängt auch davon ab, dass wir Daten nutzen können, um den Service für sie zu verbessern. Es hängt also tatsächlich alles zusammen.“

Die Technologie selbst hat sich inzwischen auch von den Geräten emanzipiert, hat beispielsweise längst den Weg in die Autos gefunden. Dabei steckt Alexa nach Ansicht von Anne Toth im wahrsten Sinne noch in den Kinderschuhen. „Wenn Alexa sieben Jahre alt ist und in Deutschland fünf Jahre alt ist, dann ist Alexa gerade in der Grundschule oder gerade aus dem Kindergarten heraus. Eine KI spiegelt in vielerlei Hinsicht die Art und Weise wider, wie Menschen lernen und sich im Laufe der Zeit weiterentwickeln. Wir haben enorme Verbesserungen in sehr kurzen Zeitfenstern gesehen, wie viel genauer und wie viel besser Alexa jedes Jahr wird, in dem wir da draußen mit Menschen interagieren. Ich kann mir vorstellen, dass es in den nächsten fünf Jahren Anwendungsfälle geben wird, über die wir noch gar nicht nachgedacht haben. Im letzten Jahr haben wir eine neue Technologie auf den Markt gebracht, den Astro-Roboter, der in Ihrem Haus umherstreift und viele verschiedene Situationen integriert, bei denen es nicht nur darum geht. Es geht nicht nur darum, das Zuhause sicherer zu machen, sondern auch darum, dass alles ein bisschen besser funktioniert. Ich glaube, wir stehen erst ganz am Anfang dieser neuen Ära.“