Sturm der Kritik bei Google nach dem Ausstieg aus dem Unternehmen von Timnit Gebru, einem Pionier in der Erforschung der Ethik in der künstlichen Intelligenz
Mitarbeiter und Akademiker im Aufstand gegen Big G.
Über 1.200 Google-Mitarbeiter und mehr als 1.500 akademische Forscher haben einen offenen Protestbrief gegen den Mountain View-Riesen unterzeichnet.
Der Grund ist der Ausstieg aus der Firma von Timnit Gebru, einer der bekanntesten und angesehensten afroamerikanischen Wissenschaftlerinnen auf dem Gebiet der Ethik der künstlichen Intelligenz, die auf Twitter anprangerte, dass sie von Google entlassen wurde, weil sie Kritik an ihren Bemühungen um Vielfalt geäußert hatte. und hob die Vorurteile von KI-Systemen hervor.
Google teilte den Mitarbeitern mit, dass sie zurückgetreten sei.
Timnit Gebru trug dazu bei, das öffentliche Image von Google als Unternehmen zu verbessern, das schwarze Informatiker hervorhebt und die schädlichen Verwendungen künstlicher Intelligenz in Frage stellt.
Alle Details.
WAS PASSIERTE ZWISCHEN GOOGLE UND TIMNIT GEBRU?
Timnit Gebru war bis letzten Mittwoch technischer Co-Leiter des Ethical AI-Teams von Google.
Gebru schrieb im sozialen Netzwerk, dass sie torpediert wurde, nachdem sie eine E-Mail (mit dem Titel „Die marginalisierten Stimmen auf irgendeine Weise zum Schweigen bringen“) an eine interne Frauengruppe und an andere Kollegen in der KI-Abteilung des Unternehmens gesendet hatte.
Eine E-Mail, in der sie ihre Frustration über die Diversity-Programme von Google zum Ausdruck bringt und eine Studie von 2018 über rassistische und geschlechtsspezifische Vorurteile in Gesichtserkennungssoftware hervorruft, die ein leitender Angestellter des Unternehmens im November letzten Jahres von ihr forderte, sie zurückzuziehen.
Das Dokument der Zwietracht
Gebru hatte kürzlich an einem Papier gearbeitet, in dem die Risiken der Entwicklung von Computersystemen untersucht wurden, die riesige Datenbanken in menschlicher Sprache scannen. Die Studie erwähnt die neue Technologie von Google, die in seiner Forschungstätigkeit verwendet wird.
In dem Papier wurde nicht nur auf die potenziellen Gefahren rassistischer Vorurteile hingewiesen, sondern auch auf die Umweltkosten für die Verschwendung von so viel Energie, mit der die Modelle betrieben werden. Ein wichtiges Thema für ein Unternehmen, das stolz darauf ist, seit 2007 klimaneutral zu sein und gleichzeitig noch umweltfreundlicher zu werden.
VERLASSEN DES UNTERNEHMENS VON SUNDAR PICHAI
Die Wissenschaftlerin berichtete, dass sie versucht habe, mit Google zu verhandeln, und angeboten habe, ihren Namen aus der Studie zu streichen, um eine vollständige Erklärung der Einwände des Unternehmens und eine Diskussion darüber zu erhalten, wie diese Probleme in Zukunft besser bewältigt werden könnten. Sie drohe zurückzutreten, wenn sie versagt. Antworten.
Google lehnte ihre Anfrage ab und teilte ihr mit, dass sie ihren Rücktritt akzeptiert habe.
"Ich hatte das Gefühl, zensiert zu werden, und dachte, dies könnte Auswirkungen auf alle ethischen Untersuchungen zur künstlichen Intelligenz haben", sagte Gebru gegenüber Wire.
Anscheinend schickte der Manager meines Managers eine E-Mail mit meinen direkten Berichten, dass sie meinen Rücktritt akzeptiert habe. Ich war nicht zurückgetreten – ich hatte zuerst nach einfachen Bedingungen gefragt und gesagt, ich würde antworten, wenn ich aus dem Urlaub zurück bin. Aber ich denke, sie hat sich für mich entschieden
das ist der Anwalt sprechen.
– Timnit Gebru (@timnitGebru) 3. Dezember 2020
DIE POSITION VON JEFF DEAN, KOPF VON GOOGLE AI
Wie CNN berichtet, erklärte Jeff Dean, Leiter der künstlichen Intelligenz von Google, in einer E-Mail, die am Donnerstag an Mitarbeiter von Google Research gesendet wurde, den Mitarbeitern seinen Standpunkt. „Gebru war Mitautor eines Artikels, gab dem Unternehmen jedoch nicht die zwei Wochen, um ihn vor Ablauf der Frist zu überprüfen. Das Dokument wurde intern überarbeitet – schrieb er – aber "entsprach nicht unseren Anforderungen für die Veröffentlichung".
Dean fügte hinzu: „Leider wurde dieses spezielle Dokument nur mit einer Frist von einem Tag vor Ablauf der Frist geteilt. Wir brauchen zwei Wochen für diese Art der Überprüfung. Statt auf das Feedback der Prüfer zu warten, wurde es zur Einreichung genehmigt und gesendet. “
Daher der "akzeptierte" Rücktritt für Gebru.
DIE ARBEIT VON GEBRU AUF DEM GEBIET DER KI
Timnit Gebru ist in der Welt der Ethik der künstlichen Intelligenz berühmt. Er arbeitete auch bei Apple an der Entwicklung der Algorithmen für die ersten iPads und promovierte am Stanford Artificial Intelligence Laboratory.
Sie ist Mitbegründerin der Black in AI-Gruppe, die die Beschäftigung und Führung von Schwarzen in der Branche fördert. Sie ist bekannt für die Studie von 2018, die gemeinsam mit Joy Buolamwini, einer Forscherin am Massachusetts Institute of Technology, unterzeichnet wurde und bei der Gesichtserkennungssoftware rassistische und geschlechtsspezifische Vorurteile feststellte .
WAS IST DAS ENDE DER MOTTO "NICHT BÖSE SEIN"?
Die Geschichte könnte ein schwerer Schlag für das Image und die Glaubwürdigkeit des von Sundar Pichia geführten Unternehmens sein, dessen ursprüngliches Motto „Sei nicht böse“ („Tu nicht weh“) lautete.
VORHERIGE PROTESTE VON GOOGLE-MITARBEITERN
Der plötzliche Abgang von Gebru führt zu jahrelangen Spannungen, einschließlich mehrerer Rücktritte und Entlassungen, in der KI-Abteilung und anderen Google-Organisationen aufgrund der Vielfalt und der Bemühungen des Unternehmens, den potenziellen Schaden seiner Dienste zu minimieren ausreichend.
Im Sommer 2018 gab Google das Maven-Projekt des Pentagon auf. Das Projekt verwendet Computer-Vision-Software, um automatisch das von US-Militärdrohnen gesammelte Material zu analysieren. Big G wurde durch Mitarbeiterproteste in die Entscheidung gezwungen, wonach Big G aus dem Kriegsgeschäft ausscheidet.
Ebenfalls im Jahr 2018 unterzeichneten Google-Mitarbeiter einen offenen Brief , in dem sie das Unternehmen aufforderten, das Dragonfly-Projekt wegen einer für den chinesischen Markt verbotenen Suchmaschine abzubrechen, die eine staatliche Überwachung ermöglicht hätte.
DIE NÄCHSTEN HERAUSFORDERUNGEN VON BIG G.
Die Verwaltung der KI-Ethikinitiative und der interne Widerspruch, der durch Gebru's Ausstieg ausgelöst wurde, werden die erste Hürde sein, der sich der Riese von Mountain View im neuen Jahr stellen wird. Ohne den Vorwurf des US-Justizministeriums zu vergessen, seine beherrschende Stellung auszunutzen, um den Wettbewerb zu unterdrücken.
Dies ist eine Übersetzung eines Artikels, der am Tue, 08 Dec 2020 07:43:20 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/perche-molti-dipendenti-di-google-sono-in-rivolta/ veröffentlicht wurde.