#The Force Awakens – 54. Münchner Sicherheitskonferenz lädt zur Diskussion über Killer-Roboter

Sophia, Hanson Robotics Ltd., auf dem "AI for GOOD Global Summit, ITU" in Genf im Juni 2017. Bild: © ITU Pictures [CC BY 2.0] - flickr

Mit einer Anlehnung an die ‚Star Wars‘ Filmreihe luden die Veranstalter der 54. Münchner Sicherheitskonferenz zu der öffentlichen Diskussion ‚The Force Awakens – Artificial Intelligence and Modern Conflict‘ am Vorabend der Konferenz ein. ExpertInnen aus Politik, Militär und Zivilgesellschaft stellten sich den Fragen des Moderators David E. Sanger, Kolumnist der New York Times. Nur Sophia, erste humanoide Roboterfrau mit anerkannter saudi-arabischer Staatsbürgerschaft, tat sich bei der Beantwortung so mancher Fragen schwer.

Mit dem Hinweis, dass das Thema Künstliche Intelligenz von höchster Relevanz nicht nur für alle Anwesenden, sondern auch für sie selbst sei, begrüßte Sophia das Publikum. Im Gespräch mit David Sanger erklärte sie ihr Anliegen, die Welt besser und friedvoller zu machen, denn „Roboter […] könnten helfen, den Hunger zu bekämpfen, die Umwelt zu erhalten und das Gesundheitswesen zu revolutionieren, sogar potentiell Menschen voreinander zu beschützen.“ Insbesondere letztere Aussage wirft zahlreiche Fragen auf, passt jedoch in das Bild, in welchem Sophia am Ende unfähig ist, über Werte und Moral zu sprechen. Dabei sind dies grundlegende menschliche Eigenschaften, die auch bei militärischen Tötungsentscheidungen von höchster Relevanz bleiben müssen – eine Grundforderung der Kampagne ‚Killer Roboter Stoppen‘.

Generalleutnant Ludwig Leinhos, erster Inspekteur des Cyber- und Informationsraums der Bundeswehr, erklärte wie rasant die Digitalisierung in die Bundeswehr Einzug hält. Neben neuartigen Waffensystemen seien auch Bereiche wie Kommunikation, Logistik, Personal oder die medizinische Versorgung betroffen. Auf die Frage, ob auch offensive Cyber-Fähigkeiten bestünden, bejahte der Generalleutnant. Diese würden jedoch nur eingesetzt, wenn ein entsprechendes Mandat des Bundestages vorliege.

Im Fall aktueller Technologieentwicklungen müsse man Bedenken, dass nicht nur Staaten, sondern auch nicht-staatliche Akteure wie Terroristen oder das organisierte Verbrechen sich diese Technologien zunutze machen könnten, ermahnte Generalleutnant Leinhos im Weiteren. Eine solche gemeinsame Bedrohung könnte die Staatengemeinschaft zusammenführen, um verbindliche Konventionen zu schaffen.

Im Anschluss sprach Abrüstungsaktivistin Mary Wareham von Human Rights Watch über Entstehung und Anliegen der ‚Campaign to Stop Killer Robots’. Die Koalition aus verschiedenen internationalen Nichtregierungsorganisationen entstand im Jahr 2013 in Kooperation mit Experten aus Robotik und Künstlicher Intelligenz in Industrie und Wissenschaft. Die Kampagne beschäftigt sich mit Autonomie in den kritischen Funktionen eines Waffensystems. Dies betrifft insbesondere die Identifizierung, Auswahl und Bekämpfung von Zielen. Menschliche Kontrolle müsse immer gewährleistet werden, weswegen das Ziel der Kampagne die Schaffung eines präventiven, völkerrechtlichen Verbotes über die Entwicklung, Produktion und Nutzung von voll-autonomen Waffensystemen sei, so Mary Wareham, Koordinatorin der internationalen Kampagne.

Es stelle sich die Frage, so David Sanger, ob ein solcher Vertrag mit allen Staaten überhaupt zustande kommen könne. Denn solange nur ein feindlich gesinnter Staat autonome Waffensysteme entwickele, würden die anderen es ihm gleichtun, argumentierte der Moderator. Mary Wareham erklärte, dass die Kampagne „Stop Killer Robots“ aus vorherigen Kampagnen zu Antipersonenminen und Streumunition entstanden sei. In beiden Fällen habe man das Zustandekommen internationaler Verträge erreicht. Obwohl nicht alle Staaten unterschrieben hätten, zeige sich trotzdem die Durchsetzung einer internationalen Norm. Die Vereinigten Staaten stellen beispielsweise keine Antipersonenminen mehr her, vernichten Vorräte und verzichten auf den Export, obwohl sie dem Vertrag nie offiziell beigetreten sind.

Estland gilt als Vorzeigeland der Digitalisierung. Kersti Kaljulaid, Präsidentin der Republik Estland, äußerte sich besorgt, Künstliche Intelligenz nur auf ihr gefährliches, destruktives Potenzial zu reduzieren. Alle Menschen müssten die Möglichkeit bekommen, von den Vorteilen Künstlicher Intelligenz zu profitieren. Die estnische Präsidentin sprach sich für eine kluge Regulierung aus und nannte gleich ein paar Beispiele wie einem Ausschaltknopf für Algorithmen oder ein Whistleblowingsystem innerhalb von Blockchains.

Neben Mary Wareham plädierte auch Anders Fogh Rasmussen, ehemaliger NATO-Generalsekretär, eindringlich für ein präventives Verbot autonomer Waffensysteme. Die NATO sei völlig unvorbereitet im Umgang mit autonomen Waffensystemen. Entscheidungsprozesse müssten dringend beschleunigt werden, erklärte Rasmussen. Während der NATO-Entschluss für eine Intervention im Balkan in den 90er Jahren rund 6 Monate erforderte, benötigte man 2011 in Libyen nur 6 Tage – in naher Zukunft habe man möglicherweise nur noch 6 Minuten Zeit, eine Entscheidung zu treffen, führte Rasmussen weiter aus. Die militärische Nutzung Künstlicher Intelligenz und Robotik werde Kriege drastisch beschleunigen und zu großen strategischen, zwischenstaatlichen Instabilitäten führen.

Auch aus ethischer Sicht hegt Rasmussen Vorbehalte gegen autonome Waffensysteme. Die Entscheidung und Ausübung tödlicher Gewalt dürfe niemals einer Künstlichen Intelligenz überlassen werden. Es sei daher dringend nötig in Verhandlungen über ein rechtlich verbindliches Verbot zu treten, um autonome Waffensysteme völkerrechtlich präventiv zu verbieten. Natürlich stellen sich ähnliche Probleme wie bei Verhandlungen zu Antipersonenminen und Streumunition, so Rasmussen. Dies zeige jedoch auch, dass es möglich sei und dass Verstöße gegen die Verträge dann als Kriegsverbrechen geahndet werden könnten.

Die Zuschauerfragen bezeugten eine kritische Sichtweise des Publikums gegenüber autonomen Waffensystemen. Zurecht! Die Kampagne ‚Killer Roboter Stoppen‘ macht seit Jahren auf die Vielzahl ethischer, rechtlicher und sicherheitspolitischer Bedenken aufmerksam. Die Behauptung Roboter würden Kriege humaner machen ist paradox. Völlige Autonomie in der Kriegsführung entlässt Menschen aus ihrer moralischen und rechtlichen Verantwortung, steigert die Wahrscheinlichkeit Kriege zu führen, beschleunigt den internationalen Rüstungswettlauf und führt zu globalen Instabilitäten. Es bleibt zu hoffen, dass eine künftige handlungsfähige Bundesregierung auch willens ist, ihr Koalitionsversprechen in Bezug auf eine völkerrechtliche Ächtung autonomer Waffensysteme einzuhalten.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.