Nach Mitarbeiter-Protest: Google gelobt Besserung und kündigt an, keine KI für Waffen zur Verfügung zu stellen

Bild: © 422737 [CC0 1.0] - pixabay

Das Silicon Valley gilt vielen als Inbegriff von Innovation und Gründertum. Als Technologiestandort der ‚Big Five‘ – Amazon, Apple, Facebook, Google und Microsoft – vereint es jene Firmen, die im Alltag vieler Menschen weltweit nicht mehr wegzudenken sind. Das es das Silicon Valley ohne das amerikanische Militär und sein Forschungsgeld in seiner heutigen Form kaum geben würde, scheint Tüftlern und Konsumenten dagegen nicht bewusst zu sein. Viele Erfindungen, z.B. Apple’s Sprachassistentin SIRI, entstanden etwa aus der Symbiose zwischen Militär, Forschungseinrichtungen und Industrie.[1] Der monatelange Protest zahlreicher Google Mitarbeiter über die Beteiligung der eigenen Firma an einem Rüstungsprojekt mit dem Pentagon ist beispielslos, zeigt aber auch eine gesellschaftliche Naivität in der Wahrnehmung großer Tech-Firmen.

Aufnahmen von Drohnen in Kriegs- und Krisengebieten liefern dem US-Militär täglich riesige Mengen an Videomaterial. Analysten können diese Unsummen an Daten kaum noch bewältigen.[2] Das Pentagon setzt daher zunehmend auf Künstliche Intelligenz (KI) und maschinelles Lernen. Im Rahmen des Projekts ‚Maven‘ sollen Technologiefirmen anstelle klassischer Rüstungsunternehmen auf dem Markt frei verfügbare KI-Software dem Militär zur Bildanalyse zur Verfügung stellen.[3] So auch im Fall von Google geschehen.

Die Google KI-Software TensorFlow, ein plattformunabhängiges Open-Source-Tool für Sprach- und Bildverarbeitungsaufgaben, analysiert das Drohnenvideomaterial, wobei es Objekte erkennt, klassifiziert und für einen menschlichen Analysten markiert. In Nahen Osten kam Project Maven bereits zum Einsatz.[4] Damit greift das Pentagon auf KI-Software zu, die auch Bestandteil zahlreicher kommerzieller Produkte von Google ist, z.B. bei Google Maps, Google Images oder Google Translate.[5]

Im Frühjahr dieses Jahres unterzeichneten über 4 000 Mitarbeiter von Google einen Protestbrief an CEO Pichai Sundar mit der Aufforderung, die Zusammenarbeit mit dem US-Verteidigungsministerium zu Projekt Maven einzustellen.[6] Das „Geschäft mit dem Krieg“ wiederspreche dem internen Motto ‚Don’t be evil‘, schädige die Marke Google und benachteilige das Unternehmen im Wettbewerb um Talente, schrieben die Mitarbeiter. Es bestünde zudem die Gefahr, dass das US-Militär die Technologie anschließend offensiv nutze. Die moralische Verantwortung über eigene Technologien lasse sich nicht einfach an Dritte outsourcen, konstatierten die Mitarbeiter. Die Forderung: Projekt Maven sofort zu stoppen und eine Verpflichtung seitens Google, keine militärische Technologien zu schaffen.[7]

Unterstützung erhielt die Belegschaft von Google zudem aus der Wissenschaft von KI-Größen wie Mary-Anne Williams, Jürgen Schmidhuber oder Toby Walsh. Zusammen mit mehr als 1 100 Akademikern riefen diese die Konzernführung auf, nicht nur den Vertrag im Rahmen des Projekt Maven mit dem Verteidigungsministerium zu beenden, sondern grundsätzlich keine militärischen Technologien zu entwickeln und sich für ein Verbot autonomer Waffen einzusetzen.[8] Auch Studenten haben im Rahmen einer Petition angekündigt, sich nicht bei Google zu bewerben, solange es keinen vollständigen Rückzug aus dem Pentagon-Projekt gibt und bis Google sich verpflichtet, keine Militärtechnologien zu entwickeln und keine persönlichen Daten dazu einzusetzen. Die Studenten fordern zudem Google‘s Unterstützung für ein internationales Verbot autonomer Waffensysteme.[9]

Die Konzernspitze entgegnete, dass das Engagement nicht offensiver Art sei und das Projekt mit einem Volumen von weniger als 10 Millionen Dollar nur gering beziffert sei. Halbwahrheiten, die intern wie extern kein gutes Licht auf die Spitze von Google warfen.[10] Im US-Verteidigungsministeriums heißt es etwa, dass Projekt Maven im Rahmen der Aufstands- und Terrorismusbekämpfung, etwa im Kampf gegen den Islamischen Staat im Irak und in Syrien, unterstützend einsetzt werden soll.[11] Zudem wurde bekannt, dass man sich Google-intern auf Folgeaufträge einstellte, die rund 250 Millionen Dollar pro Jahr einbringen könnten.[12]

Ferner ist Google‘s Selbstwahrnehmung alarmierend. Sergey Brin, Co-Gründer von Google, gab im Rahmen der Diskussion um Projekt Maven an, dass es um den Frieden besser bestellt sei, wenn die Militärs dieser Welt mit internationalen Organisationen wie Google zusammenarbeiten würden, anstelle allein mit nationalen Rüstungspartnern.[13] Problem: Google ist keine internationale Organisation. Die Vereinten Nationen oder die Welthandelsorganisation sind beispielhafte internationale Organisation – je nach Aufgabengebiet betraut mit politischen, wirtschaftlichen, kulturellen und / oder militärischen Angelegenheiten. Google ist ein kommerzielles Unternehmen und rangiert mit seinem aktuellen Börsenwert unter den fünf wertvollsten Unternehmen der Welt.[14] Der Internetgigant ist vorrangig seinen Kunden gegenüber verpflichtet. Diese sitzen nicht nur in den USA, sondern im Zweifelsfall auch in jenen Ländern, wo Projekt Maven eingesetzt wird und über die Google seit Jahren persönliche Daten sammelt.

Am Ende hat der Protest Wirkung gezeigt – den mutigen Mitarbeitern sei Dank. Die Konzernführung gab Anfang Juni bekannt, den auslaufenden Vertrag mit dem Pentagon nicht verlängern zu wollen.[15] Mehr noch, der Google-Mutterkonzern Alphabet veröffentlichte vergangenen Donnerstag Grundsatzregeln im Umgang mit Künstlicher Intelligenz und gab an, diese nicht für Waffen entwickeln zu wollen. Auch Technologien, die Informationen zur Überwachung sammeln und dabei gegen internationale Normen verstoßen, wurde ein Riegel vorgeschoben. Neue KI-Technologien müssen den Prinzipien des Völkerrechts entsprechen und Menschenrechte achten, heißt es aus dem Mutterkonzern. Gleichzeitig stellt CEO Pichai Sundar klar, dass es auch in Zukunft eine Zusammenarbeit mit Regierung und Militär geben wird.[16]

Google muss nun – nach innen wie außen – Vertrauen zurückgewinnen. Projekt Maven läuft etwa erst im März 2019 aus und die neuen Leitlinien lassen einen gewissen Interpretationsspielraum offen, z.B. in Bezug auf umstrittene Praktiken durch Regierungen, Polizei und Militär sowie auf Normen und Prinzipien die sich noch in ihrer Entstehung und Festsetzung befinden. Hier muss sich erst noch zeigen, wie die Standards in der Praxis angewendet werden. Wünschenswert wäre zudem ein klares Bekenntnis des Mutterkonzerns Alphabet für ein globales Verbot autonomer Waffensysteme. Dies gilt auch für andere Tech-Konzerne wie Amazon, Microsoft und Apple – die allesamt durch ihre KI-Grundlagenforschung und ihre Zusammenarbeit mit Militär, Polizei und Regierungen letztendlich zu dieser Entwicklung beitragen. Aber auch Verbraucher sind hierbei gefragt, die Produkte weiterhin ungefragt nutzen.

 


[1] Trillo, Flavio ( 2013): “Siri: Ein Militär-Projekt, das fast bei Android gelandet wäre.“ Berlin: GIGA.

[2] Pellerin, Cheryl (2017): „Project Maven Industry Day Pursues Artificial Intelligence for DoD Challenges.” Washington, DC: Department of Defense.

[3] Pellerin, Cheryl (2017): “Project Maven to Deploy Computer Algorithms to War Zone by Year’s End.” Washington, DC: Department of Defense.”

Peitz, Dirk (2018): “Google wird einfach ersetzt.“ Interview mit Paul Scharre. Hamburg: ZEIT ONLINE GmbH.

[4] Suchman, Lucy / Irani, Lilly / Asaro, Peter (2018): „Google’s march to the business of war must be stopped.” London: The Guardian.  

[5] Geißler, Otto / Litzel, Nico (2018): „“Open-Source-Programmbibliothek für Künstliche Intelligenz: So funktioniert Google TensorFlow.“ Augsburg: Vogel IT-Medien GmbH (BigData-Insider).

[6] Shane, Scott / Wakabayashi, Daisuke (2018): “ ‘The Business of War’: Google Employees Protest Work for the Pentagon.” New York: The New York Times.

[7] Brief der Google-Mitarbeiter an CEO Pichai Sundararajan (2018), veröffentlicht in der New York Times.

[8] Offener Brief von Wissenschaftler an Google (2018), veröffentlicht durch das International Committee for Robot Arms Control.

[9] Petition von Studenten an CEO Pichai Sundararajan (2018), veröffentlicht bei MoveON.

[10] Tarnoff, Ben (2018): “Tech Workers Versus the Pentagon.” Interview mit Google-Mitarbeiter. New York: Jacobin.

[11] Pellerin, Cheryl (2017): „Project Maven Industry Day Pursues Artificial Intelligence for DoD Challenges.” Washington, DC: Department of Defense.

Shane, Scott / Wakabayashi, Daisuke (2018): “ ‘The Business of War’: Google Employees Protest Work for the Pentagon.” New York: The New York Times

[12] Tarnoff, Ben (2018): “Tech Workers Versus the Pentagon.” Interview mit Google-Mitarbeiter. New York: Jacobin.

[13] Shane, Scott / Metz, Cade / Wakabayashi, Daisuke (2018): “How a Pentagon Contract Became an Identity Crisis for Google.” New York: The New York Times.

[14] börsenNEWS (2018): „Die Top 100 Aktien mit der höchsten Marktkapitalisierung der Welt“ (abgerufen am 11. Juni 2018). Leipzig: Markets Inside Media GmbH.

[15] ZEIT ONLINE (2018): „Google beendet Vertrag mit US-Verteidigungsministerium.“ Hamburg: ZEIT ONLINE GmbH.

[16] Sundar, Pichai (2018): “AI at Google: our principles.” Google Blog. Mountain View: Google LLC.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.