Autonome Waffen und Killerroboter: Neue Warnungen, alte Gewohnheiten

Eine weitere düstere Warnung, eine weitere Runde von Cassandra-Anrufen über das makellose Selbstbewusstsein der Menschheit. Diesen Monat veröffentlichten UN-Generalsekretär António Guterres und die Leiterin des Internationalen Komitees vom Roten Kreuz und Roten Halbmond (IKRK), Mirjana Spoljaric Egger, einen gemeinsamen Appell, in dem sie erklärten: „Wir sind jetzt gefährlich nahe daran, eine moralische rote Linie zu überschreiten: das autonome Anvisieren von Menschen durch Maschinen.“ Beide bestehen darauf, dass zwei Arten autonomer Waffen – unberechenbare autonome Waffen und Antipersonenwaffen – verboten werden.

In Genf hielt Mélanie Régimbal, Leiterin der Abteilung für Abrüstungsangelegenheiten bei den Vereinten Nationen in Genf, Stellung, indem sie die von den Vereinten Nationen vertretene Position bekräftigte, dass Systeme, die Ziele auswählen oder angreifen und ohne Kontrolle und Urteilsvermögen Menschenleben töten, „politisch inakzeptabel, moralisch abstoßend sind und nach internationalem Recht verboten sein sollten“.

Laurent Gisel, Leiter der Abteilung für Waffen und Feindseligkeiten beim IKRK, sprach ebenfalls aus Genf und beschrieb den Konflikt als „keine Geschichte von Präzision, Unterscheidung und Zurückhaltung“, sondern eine „von getöteten Zivilisten, vertriebenen Familien, zerstörten Krankenhäusern, Schulen und Häusern in immer größerem Tempo und Ausmaß“. Im dichten Nebel des Konflikts könnten viele Variablen eine Rolle spielen. „Ein Kombattant kann kapitulieren oder verwundet werden und somit vor Angriffen geschützt sein; Zivilisten können das Einsatzgebiet der autonomen Waffensysteme betreten; die Waffen können in eine Situation geraten, die nicht vorhersehbar war.“ Die Gefahren der Unvorhersehbarkeit in solchen autonomen Systemen waren äußerst problematisch. „Wenn es nicht möglich ist, es vorherzusagen, wie kann man es dann begrenzen?“

Das sind keine bemerkenswerten Warnungen. Die UN und das IKRK hatten 2023 einen gemeinsamen Appell zu diesem Thema veröffentlicht und die Staaten aufgefordert, bis 2026 ein rechtsverbindliches Dokument auszuhandeln. Auf der Ebene der Zivilgesellschaft wurde im Oktober 2012 die Koalition „Stop Killer Robots“ gegründet und 2013 öffentlich ins Leben gerufen. Übernehmen Sie Verantwortung für Entscheidungen in Bezug auf Technologie und wie sie die Beziehungen zwischen Menschen verändert. Technologien zur Förderung von Frieden, Gerechtigkeit, Menschenrechten, Gleichheit und Achtung des Rechts entwickeln; und wo Menschen als Aktivisten arbeiten, „um eine Gesellschaft aufzubauen und Ungleichheiten und Unterdrückungssysteme zu überwinden“. Das ist zwar ziemlich oberflächlich, aber im Mittelpunkt steht das Ziel, „gesellschaftliche Normen zu entwickeln und zu stärken, die autonomes Töten durch Maschine [sic] in Kriegsführung, Polizeiarbeit, Grenzkontrolle und anderen Situationen ablehnen“. Kontrolle, Verantwortung und Rechenschaftspflicht sind grundlegende Merkmale.

Diese Kampagne hat in letzter Zeit keine nennenswerten Fortschritte gemacht. Das Vertrauen des militärischen Establishments in mörderische Maschinen ist nach wie vor unerschütterlich, und die Idee der menschlichen Kontrolle über die Entscheidungsfindung wird zunehmend zugunsten des unkritischen menschlichen Datenkonsumenten ausgedünnt. Dieser Glaube hat den gewissenhaften, ungläubigen Entscheidungsträger effektiv verdrängt, wenn es darum geht, Ziele zu erreichen und zu erreichen. In den ersten Wochen des Gaza-Krieges, der am 7. Oktober 2023 begann, nutzten die israelischen Verteidigungskräfte (IDF) großzügig Lavender, ein KI-Entscheidungsunterstützungssystem (DSS), um 37.000 einzelne Ziele auf einer groben Bewertungsskala zu generieren, deren Bedeutung von der Zugehörigkeit zu bewaffneten Gruppen abhängt. Weitere im Kampf eingesetzte Systeme waren „The Gospel“ (Habsora), das Ziellisten erstellt, und „Where’s Daddy?“, eine Plattform, die die Standorte von Personen vor dem Angriff verfolgt. Das daraus resultierende maßstabsgetreue Gemetzel hat seinen Höhepunkt erreicht. Weit davon entfernt, eine nahtlose Integration von Mensch und Maschine zu suggerieren, deutet das Verhalten der IDF auf einen fehlgeleiteten Optimismus und eine Faulheit hin, die auf die Vorzüge eines Tötungssystems zurückgreifen.

Ein weiteres typisches Beispiel ist die Meinungsverschiedenheit zwischen dem Unternehmen für künstliche Intelligenz Anthropic und dem US-Verteidigungsministerium über die gefährlichen Grenzen autonomer Systeme im Krieg. Der Streit zwischen den beiden Akteuren der thanatotischen Wirtschaft war schwerwiegend genug, um einen konzertierten Versuch des Pentagons auszulösen, das Unternehmen auf die schwarze Liste der „Lieferkettenrisiken“ zu setzen. (Dies wurde am 27. August vom US-Bezirksgericht des nördlichen Bezirks von Kalifornien als „rechtswidrige Vergeltung“ unter Verstoß gegen den Ersten Verfassungszusatz und als Verweigerung eines ordnungsgemäßen Verfahrens im Sinne des Fünften Verfassungszusatzes eingestuft.) Dieser Streit ist jedoch nicht unbedingt ein Segen für diejenigen, die eine Begrenzung von Killerrobotern oder vollständig autonomen Militärplattformen befürworten.

In einer Erklärung vom Februar 2026 räumte Dario Amodei, der Mitbegründer des Unternehmens, ein, dass militärische Entscheidungen vom Pentagon und nicht von privaten Unternehmen getroffen würden. „Wir haben nie Einwände gegen bestimmte Militäreinsätze erhoben oder versucht, unsere Technologie ad hoc einzuschränken.“ Amodei hält sich jedoch für ein politisch empfindungsfähiges Wesen, was die Frage aufwirft, warum er an der Spitze steht und die Rolle der Menschheit bei der Entscheidungsfindung negiert, insbesondere durch die Förderung von Large Language Models (LLMs), die Initiative, Fleiß und Erfindungsreichtum beseitigen. Er behauptet, KI könne die Demokratie „untergraben“, ein Ziel, das er offenbar selbst verfolgt. Persönlich besorgniserregend war der Einsatz der Technologie des Unternehmens für die Massenüberwachung im Inland, die „ernsthafte, neuartige Risiken für unsere Grundfreiheiten“ mit sich brachte, sowie der Einsatz völlig autonomer Waffen, „die den Menschen völlig aus dem Verkehr ziehen und die Auswahl und Bekämpfung von Zielen automatisieren“. Aber selbst hier sind seine Spitzfindigkeiten brüchig, wenn man bedenkt, dass völlig autonome Systeme „sich als entscheidend für unsere Landesverteidigung erweisen könnten“. Die Sorge lag offenbar in der Zuverlässigkeit der verfügbaren Systeme und in der Frage, ob sie dem amerikanischen Personal schaden würden. „Wir werden nicht wissentlich ein Produkt bereitstellen, das Amerikas Kriegskämpfer und Zivilisten gefährdet.“

Zwei Tage nach Amodeis Aussage begann der präventive, gemeinsame illegale Angriff der USA und Israels auf den Iran, bei dem es zu einem weiteren gefräßigen Einsatz von KI-DSS kam. Ziele wurden schnell generiert, indem das US-Militär auf das Maven Smart System von Palantir zurückgriff, das Claude AI von Anthropic integriert, um Überwachungsdaten auszuwerten, Listen von Zielen zu erstellen und diese zu priorisieren. „Viele der im Iran getroffenen Ziele“, schreibt Noor Hammad vom International Institute for Strategic Studies (IISS), „waren ziviler Natur, darunter eine Schule sowie Gesundheits- und Wohneinrichtungen, was die Risiken einer schnellen Zielgenerierung verdeutlicht.“ Man kann sich immer darauf verlassen, dass Think Tanker Understatement und Euphemismus gleichermaßen bieten.

Gisel sagte Reportern, dass es derzeit keine „bestätigten Beweise dafür gibt, dass autonome Waffen eingesetzt wurden, um Menschen auf dem Schlachtfeld direkt anzugreifen“. Angesichts der respektvollen Haltung der Technologiefetischisten in der IDF, im Pentagon und anderen Militärs ist dies eine Unterscheidung, die kaum einen Unterschied macht. Wenn das System das sagt, muss es richtig sein. Es besteht auch die Gefahr, dass diese Rufe nach Zurückhaltung und einem gesetzlichen Kontrollsystem lediglich den Rest der Besorgnis wirkungslos anreichern. Vor der siebten Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen (CCW), die im November stattfindet, ist es unwahrscheinlich, dass die menschliche Spezies einen Weg einschlägt, der sie nicht zunächst gefährdet, bevor sie versucht, den entflohenen Geist unwiederbringlich einzusperren. Von der Entwicklung von Atomwaffen bis hin zu den Bedrohungen des Klimawandels: Das Schlimmste wird immer vor jedem angepriesenen Allheilmittel kommen. Und wenn dieses Allheilmittel erscheint, ist es wahrscheinlich nur ein Linderungsmittel.

Binoy Kampmark war Commonwealth Scholar am Selwyn College in Cambridge. Er lehrt an der RMIT University, Melbourne. E-Mail: [email protected]