Autonome Waffensysteme -
Wo bleibt die menschliche Verantwortung?

Der Einsatz von Künstlicher Intelligenz (KI) in den unterschiedlichsten Zusammenhängen ist heute sowohl Alltag wie auch immer wieder Anlass zur Reflexion und Debatte. Welche Entscheidungen wollen wir unter welchen Voraussetzungen und anhand welcher normativer Maßstäbe technischen Systemen überlassen? Gibt es hier bereits im „zivilen“ Leben eine Reihe von grundlegenden Aspekten zu berücksichtigen, so gilt dies umso mehr bei der militärischen Nutzung und hier insbesondere mit Blick auf autonome Waffensysteme. Die Frage, wo beim Einsatz solcher Systeme die menschliche Verantwortung bleibt, diskutierten am 9. Mai in Paderborn Prof. Dr. Jutta Weber, Universität Paderborn, Leiterin des Forschungsverbundes Meaningful Human Control – Autonome Waffensysteme zwischen Regulation und Reflexion, und PD Dr. Jürgen Altmann, TU Dortmund, Vorsitzender des Forschungsverbundes Naturwissenschaft, Abrüstung und internationale Sicherheit, mit dem Publikum.

Die Schwierigkeit beginnt dabei schon bei der Verständigung darüber, was genau autonome Waffensysteme sind. In internationalen Gremien wird seit Jahren hierüber diskutiert, hat doch die Definition möglicherweise konkrete Auswirkungen auf eine mögliche Regulierung. Es geht, so viel lässt sich allgemein sagen, um eine von einem Waffensystem selbstständig, also ohne direkte menschliche Einflussnahme, durchgeführte Auswahl und Bekämpfung eines Ziels. Auch wenn in der Praxis Systeme zunehmend autonome Funktionen integrieren, die zentrale Frage ist, wer in dieser Mensch-Maschine-Interaktion am Ende über die Kontrolle verfügt und damit letztlich die Verantwortung trägt.

BefürworterInnen des Einsatzes solcher Systeme verweisen insbesondere auf die Reaktionsfähigkeit und Zielgenauigkeit, die geringere Gefährdung von Soldatinnen und Soldaten, die mögliche Verringerung von Kollateralschäden durch eine größere Präzision, manche gar auf eine durch den Einsatz solcher Systeme mögliche bessere Beachtung einprogrammierter völkerrechtlicher Regeln als durch Menschen in vergleichbaren Situationen. Ohne im Detail auf die Argumente eingehen zu können, so wird insbesondere der letztgenannte Aspekt von KritikerInnen stark bezweifelt. Für sie sprechen insbesondere ethische Aspekte wie der immer geringere Verantwortungszusammenhang, das Risiko ungewollter Eskalationen aufgrund der enormen Schnelligkeit der Waffensysteme und auch eine drohende zunehmende internationale Instabilität, etwa durch autonome Massendrohnenangriffe terroristischer Gruppen, klar gegen den Einsatz solcher Waffensysteme.

Der zunehmende Einsatz von KI in Waffensysteme beunruhigt dabei auch Wissenschaftlerinnen und Wissenschaftler. So brachten im November 2021 führende KI- und RobotikexpertInnen in einem offenen Brief ihr Unbehagen zum Ausdruck und forderten die Bundesregierung zum Handeln auf: „Hiermit bringen wir unsere tiefe Besorgnis über Waffensysteme zum Ausdruck, die Ziele ohne echte menschliche Kontrolle auswählen und angreifen. Wir fordern einen rechtsverbindlichen internationalen Regulierungsrahmen für die Nutzung dieser sogenannten ‚Autonomie in Waffensystemen‘. Damit schließen wir uns ähnlichen Initiativen zahlreicher CEOs sowie tausender unserer KollegInnen […] an.“

Trotz dieses großen Unbehagens – der Weg einer internationalen Regulierung ist lang und mühsam, die technischen Fragen sind komplex und entwickeln sich rasch weiter. Dies liegt am Ende auch daran, dass es sich bei autonomen Waffensystemen um ein klassisches dual-use-Problem handelt, dass also für zivile Zwecke entwickelte Technik sich auch für militärische Zwecke einsetzen lässt. Insofern wäre eine internationale Regulierung ein zentraler Schritt, aber hierfür – und darüber hinaus – braucht es ein stärkeres kritisches Bewusstsein in Wissenschaft, Politik und Öffentlichkeit.

Eine gemeinsame Veranstaltung der Evangelischen Akademie Villigst und des Heinz Nixdorf MuseumsForum in Kooperation mit der Deutschen Gesellschaft für Informatik (GI) im Mai 2023 im Heinz Nixdorf MuseumsForum Paderborn