Paul Scharre: Army of None: Autonomous Weapons and the Future of War, London: W.W. Norton 2018. 448 Seiten, €24,99

Was soll man in einer Rezension über ein Buch schreiben, das Bill Gates persönlich in die Top Fünf seiner Lieblingsbücher des Jahres 2018 aufgenommen hat?<fnote>&https://www.gatesnotes.com/Books/Army-of-None</fnote> Aber auch wenn es den Hinweis von Bill Gates nicht gegeben hätte: das Urteil wäre gleich geblieben. Um es vorweg zu nehmen: „Army of None – Autonomous Weapons and the Future of War“ von Paul Scharre, ist tatsächlich ein absolutes „must read“, für alle, die sich für die Zukunft des Krieges und die aktuellen technologischen Umwälzungen interessieren. Eine bessere und ausgewogenere Übersicht über die Problematik autonomer Waffensysteme (AWS), militärischer Robotik und der Rolle künstlicher Intelligenz in zukünftigen Konflikten, gibt es aktuell nicht. Scharre arbeitet seit fast zehn Jahren zum Thema und ist Director of the Technology and National Security Program am Center for a New American Security (CNAS). Aber nicht nur das: Vor seiner Zeit in der Wissenschaft war er US-Ranger und Mitarbeiter im Pentagon. Dieser Hintergrund öffnete Scharre auch die eine oder andere Tür. Die Anzahl hochwertiger Gesprächspartner ist auf jeden Fall außergewöhnlich.

Army of None ist gleichzeitig auch eine Zwischenbilanz zu einer Kontroverse, die aktuell in Genf im Rahmen der UN-Waffenkonvention CCW sehr intensiv und emotional geführt wird: Die Debatte um ein mögliches Verbot letaler autonomer Waffensysteme (LAWS) – von den Nichtregierungsorganisationen, die die Debatte in Genf intensiv und kritisch begleiten, als „Killerroboter“ bezeichnet.

Im lockeren Stil von Peter Singers „Wired for War“ von 2010, das im Kopf sicherlich Pate gestanden hat, beleuchtet Paul Scharre in seinem Buch alle relevanten Aspekte autonomer Waffen. Zunächst widmet sich Scharre der Frage, was überhaupt autonome Waffensysteme sind. Für ihn steckt die Definition einer autonomen Waffe in der Zusammenführung von selbstständiger Zielauswahl und Zielbekämpfung. Eine solche Waffe kann unter menschlicher Kontrolle (supervised AWS), oder ohne menschliche Kontrolle (fully autonomous weapon system) eingesetzt werden. Weder besteht die Notwendigkeit von Bewusstsein, noch muss die Maschine ihre eigene Programmierung in Frage stellen können. Dabei referiert Scharre, welche Waffensysteme schon im Einsatz oder zumindest der Entwicklung sind, die man als „autonom“ oder hochgradig automatisiert bezeichnen könnte, und zeigt, dass es durchaus schon Waffensysteme gibt, die einem autonomen Waffensystem schon sehr nahe kommen oder gar die Grenze zur vollen Autonomie überschreiten. Es bleibt im Buch weiter technisch und Scharre beleuchtet zunächst, in welche Richtung sich autonome Waffen entwickeln könnten (autonome Drohnen, Schwärme), um dann die technischen Risiken und Probleme autonomer Waffen aufzuzeigen: Er diskutiert die Risiken der Proliferation, die Gefahr „normaler Fehler“, die Unvorhersehbarkeit möglichen Verhaltens wenn maschinelles Lernen zum Einsatz kommt und die Beschleunigung der Prozesse jenseits menschlicher Reaktionsfähigkeit.

Nachdem es lange technisch war, widmet sich Scharre dann ausführlicher der Genfer CCW-Debatte und diskutiert rechtliche und ethische Probleme, aber auch strategische Gefahren autonomer Waffen. Dabei kommen viele Kritiker autonomer Waffen aus der Campaign to Stop Killer Robots zu Wort. Bei der Kampagne handelt es sich um einen internationalen Zusammenschluss von inzwischen fast 90 NGOs, deren Engagement zunächst zur Debatte in Genf führte und die die Debatte mit einer intensiven medialen Kampagne begleiten, um ein vollständigen Verbots autonomer Waffen zu erwirken.

Es ist bis kurz vor Schluss nicht immer einfach Scharres eigene Position zu identifizieren. Er wertet nur an wenigen Stellen und offensichtlich dort, wo er eine persönliche Betroffenheit verspürt, wie z.B. im Teil, der die ethischen Bewertungen konsequenzialistischer und deontologischer Argumente beleuchtet. Hier kritisiert Scharre die von Kritikern vertretene These, das Töten durch autonome Waffensysteme verletze die Würde des Getöteten. Die Vorstellung, es gäbe so etwas wie einen würdevollen Krieg, weist er zurück. Das Argument idealisiere einen vermeintlichen kriegerischen Zustand, den es tatsächlich nie gegeben habe (S. 288).

Der letzte Abschnitt geht schließlich die Frage an, ob autonome Waffen mit Rüstungskontrolle eingehegt werden können und wie die Chancen stehen, in der CCW tatsächlich ein Verbot autonomer Waffen zu erwirken. Hier wird Scharre dann deutlicher und der Ton des Buches ändert sich. Für ihn gibt es gute Gründe, warum die Genfer Debatte inzwischen festgefahren ist – wobei sich die Situation seit der Fertigstellung des Buchs noch einmal deutlich verschlechtert hat. Scharre geht mit den in der Genfer Diskussion maßgeblich den Ton bestimmenden kritischen Nichtregierungsorganisationen scharf ins Gericht. Die Kritiker hätten den Schwerpunkt zu sehr auf ethische und rechtliche Argumente gelegt und dabei andere gewichtige Argumente ungenutzt gelassen: „Potential harm to civilians has been front and center of the discussion. Strategic issues, which have been the rationale for many bans in the past, have taken the back seat” (S. 348). Man habe sich von den Erfolgen der Landminenkampagne blenden lassen – zumal es sich teilweise um dieselben Akteure handle. Mit dieser Schwerpunktsetzung haben die NGOs die Interessen der technologisch führenden Großmächte nicht ausreichend einbezogen, argumentiert Scharre weiter: „Proponents of a ban have yet to articulate a strategic rationale for why it would be in the leading military power’s self-interest to support a ban” (S. 351). Ohne deren Unterstützung, sei ein Ban aber zum Scheitern verurteilt. Scharre kritisiert also nicht das grundsätzliche Ziel einer Welt ohne LAWS, wohl aber die Strategie der Nichtregierungsorganisationen. Seiner Meinung nach müssten Staaten aus Stabilitätsgründen ein großes Interesse an Kooperation und einem Verzicht haben. Er betont, dass autonome Waffen vordergründig und in der kurzen Frist die technologisch führenden Staaten stärken würde, eine Diffusion autonomer Technologien könnte diese Dynamik aber umdrehen: „Fully autonomous weapons would likely benefit the weak“ (S. 350). Diese Argumente wären in der aktuellen Debatte aber untergegangen.

Zusammenfassend lässt sich festhalten: Army of None ist kein akademisches Buch im strengen Sinn und Scharre entwickelt keine neuen Konzepte oder neue zentrale Ideen. Die Vorschläge, die er am Schluss als Alternative für Genf entwickelt, bleiben vage und werden die Aktivisten der NGOs sicher nicht überzeugen. Viele der vorgebrachten Überlegungen sind Kennern der Thematik auch bekannt und Scharre liefert für Experten bestenfalls an einigen Stellen neue Details. Sachliche Fehler oder Ungenauigkeiten gibt es im Buch praktisch nicht. Zu sicher ist Scharre in seinem Gebiet. An einigen wenigen Stellen kommt man allenfalls ins Stutzen, z.B. wenn Scharre das Argument der Verantwortungslücke mit Bonnie Docherty von Human Rights Watch und nicht mit Rob Sparrow, der das Argument 2007 als erster in die Debatte einbrachte<fnote> Sparrow, Robert 2007: Killer Robots. Journal of Applied Philosophy, 24: 1, 62–77.</fnote>, assoziiert (S. 261). Auch hätte dem Buch ein etwas sorgfältigerer Herausgabeprozess sicher nicht geschadet, auf den man vermutlich angesichts der schnellen Veränderungen im Feld verzichtet hat. Und es gibt zwar einen Fußnotenapparat, aber keine klassische Literaturliste. So ist es nicht möglich mit einem Blick zu erfassen, welche Literatur Scharre tatsächlich genutzt hat.

Aber das ist alles Kritik auf sehr hohem Niveau und schmälert die Bedeutung von Scharres Buch in keiner Weise. Das Buch zielt auf eine breite Leserschaft und nicht auf den Expertendiskurs. Es will eine breite Auseinandersetzung mit dem Thema befeuern, den öffentlichen Diskurs bereichern und, speziell in der Kritik an den Strategien der NGOs, neue Perspektiven aufzeigen. Dass das Buch von Bill Gates aufgegriffen wurde, zeigt, wie gut es Scharre gelungen ist, diesem Anspruch zu genügen. Deshalb eine klare Kauf- und Leseempfehlung.