Navigation

Die Maschine und die Moral

Google und die Ethik der Künstlichen Intelligenz: Eine Entlassung wirft Fragen auf

Jeff Dean, Mitbegründer von Google Brain und Senior Fellow bei Google AI, präsentiert Googles neue "AI for Social Good"-Initiative bei einem Event in Sunnyvale, Kalifornien, USA, 29. Oktober 2018. Keystone / Elijah Nouvelage

Tech-Giganten wie Google sind sich der Macht der von ihnen vorangetriebenen Künstlichen Intelligenz (KI) nicht vollständig bewusst. Das zumindest behaupten Wissenschaftlerinnen und Wissenschaftler in der Schweiz, die in dieser Sparte tätig sind. Die jüngste Entlassung einer Ethikexpertin bei Google wirbelte viel Staub auf. Denn dieser Schritt stellt in Frage, ob ein Moralkodex rund um KI wirklich zu den obersten Prioritäten der technologischen Grossunternehmen gehört.

Dieser Inhalt wurde am 29. März 2021 - 07:44 publiziert

"Die Algorithmen, an denen wir arbeiten, sind eine Angelegenheit von öffentlichem Interesse, nicht von persönlichen Vorlieben", schrieb El Mahdi El Mhamdi auf Twitter. Er ist der einzige Mitarbeiter von "Google Brain" in Europa, der im Ethik-Team für Künstliche Intelligenz (KI) mitarbeitet.

Damit kritisierte er die fristlose Entlassung seiner Chefin Timnit Gebru im Dezember 2020. Google Brain ist eine Forschungseinheit von Google, das daran arbeitet, die Funktionsweise eines normalen menschlichen Gehirns mithilfe von Deep-Learning-Systemen zu erfassen und zu verbessern.

Gebru gilt als eine der besten Forscherinnen in Sachen KI und war Vize-Chefin der Google-Arbeitsgruppe über Ethik in der Künstlichen Intelligenz (KI). In einem gemeinsam mit anderen Wissenschaftlern verfassten Artikel warnte sie vor den ethischen Gefahren in der KI-Textsoftware, welche die Grundlage von Googles Suchmaschine und damit die Basis für dessen Geschäft bilden.

Timnit Gebru – Fachfrau und Ethikerin für Künstliche Intelligenz

Geboren wurde Timnit Gebru 1982 in Addis Abeba (Äthiopien) als Tochter eritreischer Eltern. Während des Krieges zwischen Äthiopien und Eritrea kam sie mit 15 Jahren als Flüchtling in die USA.

Sie studierte Informatik an der Stanford University und promovierte im Bereich Computer Vision am Stanford Artificial Intelligence Laboratory.

Ihre Doktorarbeit über die Verwendung von grossflächigen öffentlichen Bildern zur Durchführung soziologischer Analysen machte sie einer grösseren Öffentlichkeit bekannt. Die New York Times und der Economist berichteten darüber.

Ihren wissenschaftlichen Durchbruch erreichte sie mit der Gemeinschaftspublikation von Forschungsergebnissen, welche die Ungenauigkeit und Diskriminierung von Gesichtserkennungssystemen gegenüber Frauen und farbigen Menschen aufzeigen.

Im Jahr 2018 arbeitete Gebru für Microsoft Research, bevor Google sie als Co-Leiterin für den Aufbau des Teams für Ethik in der KI engagierte. Im Dezember 2020 löste Google ihren Arbeitsvertrag fristlos auf.

End of insertion

Sie warnte, dass diese Sprachmodelle riesige Textmengen im Internet analysieren, die zumeist aus der westlichen Welt stammen. Diese geografische Verzerrung berge unter anderem das Risiko, dass rassistische, sexistische und beleidigende Sprache aus dem Web in den Datenbanken von Google lande und vom System reproduziert werde.

Doch diese Arbeit über rassistische und geschlechterspezifische Vorurteile von Textsoftware mit Künstlicher Intelligenz missfiel ihrem Arbeitgeber. Google forderte sie auf, den Beitrag zurückzuziehen. Sie weigerte sich. Und verlor ihren Job.

Externer Inhalt

Auch andere Forschende haben die Risiken einer unkontrollierten Entwicklung von KI-Systemen untersucht und Schwachstellen aufgezeigt. Alexandros Kalousis, Professor für Data Mining und maschinelles Lernen an der Fachhochschule Westschweiz (HEV-SO), gibt zu bedenken: "KI ist allgegenwärtig und macht rasante Fortschritte; dennoch ist den Entwicklern von KI-Tools oft nicht wirklich bewusst, wie sich diese verhalten werden, wenn sie in komplexen realen Situationen eingesetzt werden." Und fügt an: "Die Erkenntnisse über schädliche Konsequenzen kommt oft erst im Nachhinein, wenn sie überhaupt kommen."

Externer Inhalt

Der Fall von Timni Gebru zeigt zudem auf, dass Forschende, die Folgen der Technologien kritisch unter die Lupe nehmen, von ihren eigenen Unternehmen nicht unbedingt geschätzt werden. "Timnit Gebru wurde von Google eingestellt, um sich mit KI-Ethik zu beschäftigen, und wurde gefeuert, weil sie sich mit KI-Ethik beschäftigte.

Das zeigt auf, wie sehr dem Unternehmen diese ethischen Fragen am Herzen liegen…", ironisiert Anna Jobin, Wissenschaftlerin am Humboldt-Institut für Internet und Gesellschaft in Berlin und Expertin für Ethik neuer Technologien. "Wie kann Google selbst je ethischer werden, wenn sogar eine in der Öffentlichkeit bekannte Spezialistin für Ethik der KI auf diese Art und Weise gefeuert wird?", fragt Jobin.

Ein gestürztes Symbol

Gebru war ein Symbol für eine neue Generation von weiblichen und schwarzen Führungskräften in der Tech-Welt, einer Welt, die von weissen Männern dominiert wird. Zusammen mit ihrer Kollegin Margaret Mitchell, die im Februar von dem Unternehmen entlassen wurde, hatte sie ein multikulturelles Team aufgebaut, um eine ethische und inkludierende Entwicklung von Googles KI-Systemen zu fördern.

Googles kontroverses Verhältnis zur Ethik

Nachdem Google seine ethischen KI-Prinzipien in einem Leitfaden dargelegt hatte, beschloss das Unternehmen 2019, seine interne Governance-Struktur zu vervollständigen. Zu diesem Zweck wurde unter dem Namen "Advanced Technology External Advisory Council" (ATEAC) ein unabhängiger Beirat gegründet, der die Entwicklung der künstlichen Intelligenzsysteme des Unternehmens beaufsichtigen sollte.

"Diese Gruppe wird sich mit einigen der komplexesten Herausforderungen von Google befassen, die unter unsere KI-Prinzipien fallen - beispielsweise die Gesichtserkennung und Fairness beim maschinellen Lernen. Die Gruppe soll unterschiedliche Sichtweisen einbringen, um unsere Arbeit zu unterstützen. Wir freuen uns darauf, uns mit den ATEAC-Mitgliedern auszutauschen", schrieb Kent Walker, Vizepräsident der Abteilung Global Affairs, in Googles Blog.

Trotz dieser guten Vorsätze wurde dieser Beirat weniger als zwei Wochen nach Aufnahme seiner Arbeit wieder abgeschafft. Der Grund war die Ernennung von zwei umstrittenen Vorstandsmitgliedern. Einer galt als Konservativer mit "Anti-Trans-, Anti-LGBTQ- und Anti-Immigranten-Einstellung".  Das zweite Mitglied trat in der Folge selbst zurück.

End of insertion

Anna Jobin warnt sogar davor, "dass sich 'ethische KI' als unethische Kraft entpuppen kann, als rein kosmetische Etikette, um einen Geschäftsgang zu verschleiern, der in Wirklichkeit in einem Konflikt mit moralischen Grundsätzen des Unternehmens steht."

Dieser Fall könne eintreten, wenn ein Problem nicht adäquat behandelt werde und die zuständigen Teams keine echte Handlungsfähigkeit hätten. Ähnlich wie beim "Green Washing", bei dem Unternehmen Umweltrichtlinien anpreisen, in Wahrheit aber nicht danach handeln, könnte man von "Ethics washing" sprechen - also von "ethischer Reinwaschung".

Burak Emir, ein leitender Software-Ingenieur, der seit 13 Jahren für Google in Zürich arbeitet, stellte nach der Entlassung von Timnit Gebru den Sinn und Zweck der Ethikforschung des Unternehmens in Frage.

"Wozu haben wir eine Ethik-Abteilung, wenn man nur schöne Dinge sagen kann?", fragt sich der Ingenieur. "Wenn das Ziel einer solchen Abteilung darin besteht, nur nette und wohlwollende Forschungsergebnisse zu publizieren, ist diese Art von Erkenntnisgewinn wenig nützlich.  Wir brauchen hingegen mehr Transparenz."

Solidarität auch aus der Schweiz

Viele Forschende haben sich mit Timnit Gebru solidarisiert, darunter auch einige, die in der Schweiz leben und arbeiten. In Zürich befindet sich das grösste Forschungszentrum von Google ausserhalb der USA. Es beschäftigt sich unter anderem mit maschinellem Lernen und künstlicher Intelligenz. Burak Emir ist einer von mehr als 2600 Mitarbeitenden des Unternehmens, die eine Petition zugunsten von Gebru unterzeichnet haben und den Umgang des Unternehmens mit der Abteilung für Ethik in der KI in Frage zu stellen.

Google bestreitet, dass Gebru habe "zensiert" werden sollen. Die Kommunikationsabteilung von Google Schweiz verweist auf Anfrage auf die offiziellen Stellungnahmen von Führungskräften des Unternehmens in diesem Fall. Eine dieser Aussagen stammte von Jeff Dean, dem Leiter von Google KI. Seiner Meinung nach hat die von Gebru mitverfasste Forschungsarbeit nicht den internen Qualitätsanforderungen entsprochen. Das Unternehmen habe im Übrigen nicht ihr gekündigt, sondern sie habe gekündigt und das Unternehmen ihre Kündigung akzeptiert. Gebru hingegen behauptet, sie habe nie eine Kündigung eingereicht.

Externer Inhalt
Externer Inhalt

Roberta Fischli von der Universität St. Gallen hat die Petition zur Unterstützung von Gebru ebenfalls unterzeichnet.  Ihrer Meinung nach hat diese Affäre dem Image von Google innerhalb der Ethik- und KI-Gemeinschaft geschadet.  Fischli glaubt, dass Interessenkonflikte unvermeidlich sind, wenn man in einem Forschungsprojekt bestehende Praktiken innerhalb eines Unternehmens in Frage stellt. Ihrer Meinung nach bestand von Anfang an ein gewisses Risiko.

"Theoretisch mögen die meisten Unternehmen kritische Forschende. Aber in der Praxis führt es ungewollt zu einem Interessenskonflikt, wenn diese beginnen, ihren eigenen Arbeitgeber zu kritisieren", sagt sie. Fischli merkt zudem an, dass Forscher, die tiefgreifend zur KI-Ethik arbeiten wollen, oft keine grosse Wahl in Bezug auf einen Arbeitsplatz hätten. Sie landeten in privaten Unternehmen, weil dort die meisten Ressourcen vorhanden seien. "Dann versuchen sie, bestimmte Abläufe besser zu verstehen und diese von innen heraus zu verändern, was nicht immer gut geht."

Der Web-Gigant Google hat nach der Entlassung von Timnit Gebru seine Geschäfte scheinbar ungestört weitergeführt, aber es scheint sich doch etwas zu tun. Eine Gruppe von Mitarbeitenden in den USA gründete im Januar die erste Gewerkschaft in der Geschichte eines grossen multinationalen Technologieunternehmens, die "Alphabet Workers Union". In der Folge gründeten Google-Mitarbeiter auf der ganzen Welt ein globales Gewerkschaftsbündnis in zehn Ländern, darunter Grossbritannien und die Schweiz.

Der Grenzen der Datenausbeutung

Doch der Einfluss von Google und der so genannten GAFA-Gruppe (Akronym für Google, Amazon, Facebook und Apple) reicht weit über die eigenen Büros hinaus. Was diese Tech-Giganten tun und planen, diktiert auch die globale akademische Forschungsagenda.

"Es ist schwer, in grossen akademischen Einrichtungen und Instituten Forschungsprojekte zu finden, die nicht mit grossen Tech-Unternehmen verbandelt sind oder sogar von ihnen finanziert werden", meint Alexandros Kalousis von der Fachhochschule Westschweiz.

Angesichts dieses Einflusses hält er es für entscheidend, dass es unabhängige und "unkonventionelle" Stimmen gibt, die auf die Gefahren der unkontrollierten Datenausbeutung durch die Tech-Giganten hinweisen.

"Das ist das grosse Problem in unserer Gesellschaft", sagt Kalousis. Diskussionen über Ethik könnten manchmal eine Ablenkung von dieser allgegenwärtigen Kontrolle durch die "Tech-Riesen" sein.

Aber kann die Forschung so unabhängig sein, wie sie sein sollte, um die Risiken eines grossflächigen Einsatzes von KI-Technologien objektiv aufzuzeigen und zu hinterfragen? Nicht wirklich, so scheint es. Das Problem geht über Google hinaus und betrifft alle Unternehmen auf dem Markt, die KI-Systeme ohne Regeln und ohne Grenzen einsetzen. Für uns bedeutet das, dass die Technologie diktiert, was ethisch akzeptabel ist und was nicht. Und das prägt unser Leben und unsere Denkweise.

Externer Inhalt

Artikel in dieser Story

Diesen Artikel teilen

Diskutieren Sie mit!

Mit einem SWI-Account erhalten Sie die Möglichkeit, Kommentare auf unserer Webseite sowie in der SWI plus App zu erfassen.

Login oder registrieren Sie sich hier.