Du hast deinen AdBlocker an?

Es wäre ein Traum, wenn du ihn für t3n.de deaktivierst. Wir zeigen dir gerne, wie das geht. Und natürlich erklären wir dir auch, warum uns das so wichtig ist. Digitales High-five, deine t3n-Redaktion

News

Kein Einsatz in Waffen: Google stellt KI-Richtlinien vor

Der Google-Chef Sundar Pichai hat ein Regelwerk für den KI-Einsatz in seinem Unternehmen vorgestellt. (Foto: dpa)

Eine neue Unternehmensichtlinie sieht vor, dass Googles KI-Technologie nicht in Waffen zum Einsatz kommen darf. In anderen Bereichen will der Konzern aber dennoch mit dem Militär kooperieren.

Als im März 2018 bekannt wurde, dass Googles KI-Technologie in Rahmen eines Projekts des US-Militärs zur Auswertung von Drohnenbildern genutzt wurde, führte das auch intern zu Unstimmigkeiten. In einem offenen Brief forderten tausende Google-Mitarbeiter ein Ende der Zusammenarbeit. US-Medien zufolge sollen einige Angestellte aus Protest sogar gekündigt haben. Google reagierte Anfang Juni 2018 und erklärte, dass der Vertrag mit dem Pentagon nicht verlängert werde. Außerdem hat Firmenchef Sundar Pichai jetzt sieben Regeln veröffentlicht, nach denen sich alle KI-Projekte des Unternehmens zukünftig richten sollen.

„Wir erkennen an, dass eine so mächtige Technologie ebenso mächtige Fragen nach ihrem Einsatz aufwirft“, erklärt Pichai in einem Statement zu den neuen Richtlinien und fügt hinzu: „Das sind keine theoretischen Konzepte; es sind konkrete Standards, die aktiv unsere Forschung und Produktentwicklung bestimmen und Einfluss auf unsere Unternehmensentscheidungen haben werden.“ In dem neuen Richtwerk schließt Google zwar den Einsatz seiner KI-Technologien in Waffensystemen aus, auf potenziell lukrative Militäraufträge will Konzernchef Pichai jedoch nicht verzichten. In Bereichen wie Cybersicherheit, Ausbildung von Soldaten oder Rekrutierung sollen Googles KI-Lösungen auch weiterhin beim Militär genutzt werden können.

Waffen und Überwachung: Von diesen Bereichen will Google die Finger lassen

Grundsätzlich verspricht Pichai, dass Googles KI-Technologie nicht im Zusammenhang mit Dingen genutzt wird, die Menschen Schaden zufügen. Dazu gehört auch der Einsatz in Waffensystemen. Auch für die Überwachung soll die Technologie nicht genutzt werden, wenn sie „international akzeptierte Normen“ unterlaufe. Außerdem dürfe die KI nicht eingesetzt werden, wenn sie dazu dienen soll, internationales Recht und die Menschenrechte auszuhöhlen.

Kritiker sind von den Richtlinien indes nicht überzeugt. Miles Brundage, ein KI-Forscher an der Oxford-Universität, kritisiert die Regeln als zu vage. Auch Peter Asaro, ein New Yorker Uni-Professor, der sich gemeinsam mit Forscherkollegen öffentlich gegen Googles Drohnenkooperation mit dem Pentagon ausgesprochen hatte, hält sie für zu ungenau. Laut einem Bericht von Bloomberg sind auch einige der Google-Mitarbeiter, die sich zuvor über die Militärkooperation ihres Arbeitgebers beschwert hatten, von den Regeln nicht gänzlich überzeugt.

Google: Sundar Pichais 7 Regeln für KI-Applikationen im Überblick

1. Sie sollen der Gesellschaft Nutzen bringen

Google-CEO Pichai erkennt in der ersten Regel an, dass künstliche Intelligenz enorme Veränderungen für eine ganze Reihe von Branchen mit sich bringen wird. Er verspricht, dass sein Konzern die potenziellen Auswirkungen dieser Veränderungen auf Gesellschaft und Wirtschaft berücksichtigen wird. Außerdem soll Google möglichst akkurate Informationen durch KI verfügbar zu machen, während gleichzeitig die kulturellen, gesellschaftlichen und gesetzlichen Normen des jeweiligen Einsatzlandes respektiert werden sollen.

2. Sie dürfen keine Vorurteile verstärken

Im zweiten Punkt geht Pichai darauf ein, dass Algorithmen und Datensätze das Potenzial haben, bestehende Vorurteile abzubilden oder gar zu verstärken. Er verspricht, dass Google versuchen wird, unfaire Auswirkungen auf das Leben von Menschen aufgrund ihrer Ethnie, ihres Geschlechts, ihrer sexuellen Orientierung, ihrer Fähigkeiten, ihres Glaubens oder ihrer politischen Ansichten zu vermeiden.

3. Sie müssen sicher sein

Bei der Erforschung und der Entwicklung von KI-Applikationen will Google stark auf die Sicherheit achten und ungewollte Schäden vermeiden.

4. Sie bleiben gegenüber Menschen rechenschaftspflichtig

KI-Systeme, so der Google-Chef, müssen immer so entwickelt werden, dass Menschen über ein notwendiges Maß an Kontrolle verfügen.

5. Sie müssen von Grund auf den Datenschutz achten

Alle von Google entwickelten KI-Applikationen sollen so entwickelt werden, dass sie den Datenschutz der Nutzer achten und ihnen ein „angebrachtes“ Maß an Kontrolle und Transparenz bieten.

6. Sie müssen hohen wissenschaftlichen Standards gerecht werden

Google strebt laut Pichai im KI-Bereich die Einhaltung hoher wissenschaftlicher Standards an. In einem multidisziplinären Verfahren sollen Führungspositionen entsprechend wissenschaftlicher Erkenntnisse geschult werden. Außerdem soll Google seine Erkenntnisse aus der KI-Forschung verantwortungsvoll mit der wissenschaftlichen Gemeinschaft teilen.

7. Sie werden auf diese 4 Fragen hin untersucht

Da Technologien für verschiedene Zwecke genutzt werden können, hat Google vier Bereiche definiert, auf die jede KI-Anwendung vorab geprüft werden soll.

  • Was ist der primäre Nutzen einer Technologie und wie nah liegt der an einem möglichen Missbrauch?
  • Wie einzigartig ist die Technologie und wie erhöht sich ihre Verbreitung?
  • Wird die Technologie ein signifikante Veränderungen verursachen?
  • Was ist Googles Teil – sprich: Handelt es sich um Werkzeuge für jeden Einsatz, integrierte Werkzeuge für Kunden oder eine Auftragsarbeit für einen Kunden?

Ebenfalls interessant: Microsoft fordert klare Ethikregeln für künstliche Intelligenz.

Bitte beachte unsere Community-Richtlinien

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.