Experten warnen eindringlich vor der Entwicklung und dem Einsatz autonomer Waffensysteme

Bild: © JD Lasica [CC BY-NC 2.0] - flickr

Führende Forscher, IT-Ingenieure und Tech-Unternehmer sind sich einig, dass die unkontrollierte, rasch voranschreitende Forschung im Rahmen der militärischen Nutzung autonomer Waffensysteme eine zunehmend gefährliche Entwicklung annimmt. Elon Musk warnte jüngst sogar vor einem 3. Weltkrieg und der russische Präsident Wladimir Putin erklärte Anfang September: „Wer immer führend in dieser Sphäre [KI] wird, wird der Anführer der Welt.“¹

Kürzlich veröffentlichte Elon Musk, Gründer der Unternehmen Tesla und SpaceX, zusammen mit 116 führenden Experten der Robotik-Industrie einen offenen Brief an die Vereinten Nationen.² In diesem wird eindringlich vor der Gefahr eines Rüstungswettlaufes gewarnt. Werden weiterhin autonome Waffensysteme unkontrolliert entwickelt und Armeen damit ausgestattet, ist diese Entwicklung kaum mehr aufzuhalten. Sei einmal „die Büchse der Pandora geöffnet, lasse sie sich nicht mehr schließen“, warnen die Tech-Riesen. Die Experten bewerten die Entwicklung vollautonomer Waffensysteme als die „dritte Revolution“ der Kriegsführung nach der Erfindung des Schwarzpulvers und Atomwaffen, die ihrerseits eine tödlichere Transformation der Kriegsmaschinerie bedeuteten.³. In dem offenen Brief warnen die Forscher und Unternehmer, dass bewaffnete Konflikte in einem nie dagewesen Ausmaß und in einer für Menschen nicht begreifbaren Geschwindigkeit stattfinden werden. Das Missbrauchspotenzial ist enorm. Als „Waffen des Terrors“ könnten sie von Despoten und Terroristen gegen Zivilisten eingesetzt werden oder dem unerwünschten Zugriff von Hackern ausgesetzt sein.

Die Experten begrüßen die Einrichtung einer Gruppe von Regierungsexperten zu letalen autonomen Waffensystemen (LAWS) im Rahmen der VN-Waffenkonvention im vergangenen Jahr. Dies wurde maßgeblich durch die von NGOs initiierte Kampagne für ein Verbot autonomer Waffensysteme vorangebracht, welcher auch Facing Finance angehört.⁴. Die internationale Kampagne warnt schon lange vor der Vielzahl technischer, ethischer, rechtlicher und sicherheitspolitischer Bedenken. Autonome Waffen können beispielsweise nicht eindeutig zwischen militärischen und zivilen Zielen unterscheiden. Die menschliche Entscheidungsfindung ist zu komplex, als das sie von Algorithmen geleistet werden kann. Autonomen Waffen fehlt das notwendige  Urteilsvermögen. Sie sind nicht in der Lage Kontext zu verstehen.⁵

Das kürzlich veröffentlichte Schreiben ist nicht die erste Warnung von IT-Experten an die Vereinten Nationen. Im Jahr 2015 veröffentlichte Toby Walsh zusammen mit anderen Wissenschaftlern und CEOs von Robotikunternehmen einen offenen Brief mit der Forderung nach einem präventiven Verbots autonomer Waffensysteme. Insbesondere weisen sie darauf hin, dass die zivile Forschung an Künstlicher Intelligenz nicht zur Herstellung und Entwicklung intelligenter Waffen missbraucht werden dürfe. Der offene Brief hat bereits über 20.000 Unterzeichner, darunter viele führende Persönlichkeiten aus der Wissenschaft und IT- und Robotikbranche wie Stephen Hawking, Elon Musk und Steve Wozniak.⁶

1. http://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/elon-musk-tesla-chef-warnt-vor-kuenstlicher-intelligenz-15182958.html [↩]
2. https://www.dropbox.com/s/g4ijcaqq6ivq19d/2017%20Open%20Letter%20to%20the%20United%20Nations%20Convention%20on%20Certain%20Conventional%20Weapons.pdf?dl=0 [↩]
3. https://www.wired.de/collection/life/elon-musk-un-autonome-waffen-drohnen-krieg [↩]
4. https://www.heise.de/tp/features/Elon-Musk-warnt-mit-Robotik-und-KI-Chefs-vor-autonomen-Waffensystemen-3809811.html [↩]
5. http://www.facing-finance.org/de/die-kampagne/deutsch-killer-roboter-stoppen/ [↩]
6. https://futureoflife.org/open-letter-autonomous-weapons [↩]