KI gegen zweifelhafte Inhalte: Mit MUM will Google die Suche sicherer machen

Künstliche Intelligenz filtert Googles Suche. (Symbolbild: Shutterstock)
Infektionskrankheiten, Naturkatastrophen, Krieg – es sind keine leichten Zeiten für die Menschen auf der Erde. Natürlich nutzen wie vor allem Google, um uns über aktuelle Entwicklungen auf dem Laufenden zu halten. So wollen wir schnell aktuelle, teils sogar zeitkritische und relevante, dabei vertrauenswürdige Informationen finden, die uns umsetzbare Hilfestellungen geben.
Das stellt den Suchmaschinenbetreiber vor ein erhebliches Problem. Denn so schnell, wie die Informationen heutzutage benötigt werden, können sie nicht verlässlich gecheckt werden. So ist es leicht möglich, dass Google potenziell schockierende oder schädliche Inhalte vorschlägt.
Das wollen wir nicht und das will Google erst recht nicht. Deshalb ist der Einsatz von maschinellem Lernen zum Verständnis von Sprache so wichtig. Mit seinem neuesten KI-Modell, genannt MUM, versucht Google sicherzustellen, dass die KI die Absicht hinter den Fragen der Menschen besser zu verstehen lernt. So soll Mum etwa erkennen, wann eine Person in Not ist und was ihr helfen kann.
Schon länger ist bei der Suche für Google-Konten von Personen unter 18 Jahren standardmäßig der sogenannte Safe-Search-Modus aktiviert. Der bietet Nutzenden die Möglichkeit, explizite Ergebnisse zu filtern. Selbst wenn die Safe-Search-Funktion deaktiviert ist, reduzieren Googles Algorithmen die Zahl potenziell unsicherer Ergebnisse.
Ein wichtiger Baustein dazu hört auf den Namen BERT. Die KI soll unterscheiden können, ob ein Mensch wirklich nach expliziten Inhalten sucht oder eben nicht. Laut Google funktioniert Bert immer besser. So soll die KI allein im letzten Jahr hat die Zahl der unerwarteten, schockierenden Ergebnisse um 30 Prozent reduziert haben. Besonders wirksam soll Bert sein, wenn es um Suchanfragen zu ethnischer Herkunft, sexueller Orientierung und Geschlecht geht, die die sich unverhältnismäßig stark auf Frauen und insbesondere auf farbige Frauen auswirken können.
Googles verbesserte Mum-KI kann Wissen in alle 75 unterstützten Sprachen übertragen. Die dadurch erzielte Geschwindigkeit soll helfen, Schutzmaßnahmen auf der ganzen Welt viel effizienter zu skalieren. Wenn ein Mum-Modell auf eine Aufgabe trainiert wird – wie die Klassifizierung der Art einer Anfrage -, lernt es direkt, diese Aufgabe in allen ihm bekannten Sprachen auszuführen. In den kommenden Monaten will Google Mum nutzen, um die Qualität seines Spamschutzes zu verbessern und den Algorithmus auf Sprachen ausweiten, für die sehr wenige Trainingsdaten vorliegen.
Das soll Google in die Lage versetzen, schwierige und sensible Anfragen weltweit besser zu erkennen und mit vertrauenswürdigen lokalen Partnern dafür zu sorgen, dass in möglichst vielen Nationen hochwertige und verwertbare Informationen gezeigt werden. Wie stets, hat Google auch bei den kommenden KI-Änderungen auf die Mithilfe seiner Armee von Suchratern auf der ganzen Welt gesetzt.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team