Die Killer-KI-Roboter sind bereits da

In den letzten Wochen hat die Panik vor künstlicher Intelligenz ihren Höhepunkt erreicht. Whistleblower der KI-Branche sowie Politiker wie Bernie Sanders warnen vor dem Potenzial einer KI-gesteuerten Apokalypse und der Notwendigkeit, die Weiterentwicklung der Technologie zu verlangsamen oder anzuhalten.

Aber wir sollten nicht vergessen, dass KI dank des zunehmenden Einsatzes autonomer Waffensysteme in der Kriegsführung tatsächlich bereits Menschen tötet. Ein aktueller, aufsehenerregender Vorfall,bedecktWie die New York Times letzten Monat berichtete, wurden drei ukrainische Zivilisten von einer KI-gesteuerten Drohne getötet. Auch ein KI-System ist berüchtigtZiele auswählenbeim völkermörderischen Angriff Israels auf Gaza.

Robert Sparrow ist Professor für Philosophie an der Monash University, der ausführlich über die Ethik der Kriegsführung geschrieben hat und ein Verbot des Einsatzes autonomer Waffensysteme gefordert hat. Jacobin hat Sparrow kürzlich darüber interviewt, wie KI-Waffensysteme jetzt eingesetzt werden, warum er ihren Einsatz als besonders moralisch beunruhigend ansieht und was er zu den jüngsten Ankündigungen über den bevorstehenden Untergang durch künstliche Intelligenz sagt.

Nick French

Die New York Times berichtete letzten Monat, dass eine völlig autonome Drohne in diesem Sommer in der Ukraine drei Menschen getötet habe. Beginnen Sie mit einer Definition dessen, was eine Drohne oder ein Waffensystem vollständig autonom macht. Wie unterscheiden sich die Morde in der Ukraine von zuvor dokumentierten Einsätzen halbautonomer oder unbemannter Waffensysteme?

Robert Sparrow

Die Standarddefinition von Autonomie ist heute ein Waffensystem, das seine Ziele selbst wählt oder eine wichtige Funktion ohne menschliche Aufsicht ausführt. Manche Leute werden „Fire-and-Forget“-Munition als autonom einstufen; andere Leute werden eher etwas wie die Art von Agentur verlangen, die wir in der generativen KI sehen, und diese Art von KI-Agenten, über die die Leute sprechen.

Was diesen Nachrichtenbericht betrifft, schien es nicht so sehr die Leistungsfähigkeit der Waffe, was wirklich neu war. Die Drohne war im Wesentlichen für die Zielerfassung mit Benzin konzipiert. Es wurde in die allgemeine Richtung einer Tankstelle abgefeuert, erkennt die Propangastanks und versucht, gegen sie zu stoßen. Die Auswahl ist dort nicht riesig. Neu schien, dass es zivile Opfer gab.

Aber über diese Kapazität verfügen Systeme schon seit langem. Es gab eine israelische herumlungernde Munition namens Harpy, die man irgendwo abfeuert, wo man befürchtet, dass die Leute das Luftverteidigungsradar einschalten. Es fliegt von selbst herum, und dann schaltet jemand ein Luftverteidigungsradar ein, und dieses Ding erfasst es und stößt darauf. Die Amerikaner haben eine Marschflugrakete namens Long-Range Anti-Ship. Auch hier feuern Sie in die allgemeine Richtung einer feindlichen Schiffsgruppe. Dann wählt es selbstständig das Ziel mit dem höchsten Wert aus. Es verfügt über Radar oder Profile der Schiffe und ist für den Wellenflug konzipiert. Sobald eine Rakete das beabsichtigte Ziel zerstört hat, erkennt sie das nächsthöhere Ziel.

Ich bin froh, dass die Leute auf diese Systeme aufmerksam machen, aber in diesem speziellen Fall schien es neu zu sein, dass es sich um einen russischen und nicht um einen ukrainischen Einsatz einer solchen Drohne handelte; und dass die Russen einen Nvidia-Chip verwendeten, der ziemlich weit verbreitet ist – was zeigt, dass es sich um eine Fähigkeit handelt, die auch andere Menschen entwickeln könnten – und dass dabei Zivilisten getötet wurden.

Die ZeitenArtikelunterscheidet zwischen Last-Mile-Targeting und vollständig autonomen Waffen. Mir war in diesem speziellen Fall einfach nicht klar, dass die Drohne völlig autonom war, weil ein Mensch beschlossen hatte, dass sie Gasflaschen angreifen würde. Sie hatten beschlossen, es abzufeuern; Sie hatten die Tankstelle ausgewählt, auf die sie die allgemeine Richtung ausrichten wollten. Es schien, als würde sie das tun, was einige der Drohnenwaffen der Ukrainer tun, nämlich dass man ein Ziel bestimmen kann und die Drohne dann diese Person oder diesen Panzer jagt, wenn man einen Menschen nicht auf dem Laufenden halten kann, weil es zu viele Störungen gibt.

Aber es ist klar, dass dies die Zukunft des Krieges ist, wenn sich die Menschen nicht zusammenschließen, um ihn zu stoppen: Immer mehr Entscheidungen über Ziele werden den Maschinen übergeben.

Nick French

Was sind die wichtigsten Fragen, die autonome Waffensysteme aufwerfen, ob es sich dabei um etwas handelt, was in der Ukraine eingesetzt wurde, oder um etwas völlig autonomeres? Bei allen Arten von Waffen gibt es unbeabsichtigte Folgen. Sie könnten beispielsweise eine Bombe abwerfen oder eine Kugel abfeuern und unbeabsichtigte Ziele treffen. Was wirft bei autonomen oder selbstgesteuerten Waffen besondere moralische Fragen auf?

Robert Sparrow

Hier hängt viel davon ab, ob man an so etwas wie eine Panzerabwehrmine denkt. Eine moderne Panzerabwehrmine wählt gewissermaßen ihr Ziel. Es soll erkennen, ob es sich bei dem darüber gefahrenen Fahrzeug um einen Traktor oder ein gegnerisches Panzerfahrzeug handelt. Einige von ihnen dienen dazu, Ziele zu zählen, sodass sich die feindliche Panzerkolonne innerhalb des Minenfelds befindet, wenn die erste Mine explodiert. Es ist schwer, sich darüber allzu große Sorgen zu machen.

Am anderen Ende stellen sich die Leute den Terminator oder etwas wie Claude von Anthropic vor, der Ziele auswählt. Es ist einfacher zu erkennen, dass da etwas nicht stimmt.

Für mich gibt es zwei Problemkomplexe. Erstens erhöhen diese Dinge das Risiko eines unbeabsichtigten Krieges auf vorhersehbare Weise. Stellen Sie sich eine Zukunft vor, in der Sie autonome U-Boote haben – und die Unterwasserkriegsführung ist ein Bereich, in dem dieses Thema einen großen Einfluss haben wird, weil es schwierig ist, mit U-Booten zu kommunizieren, und die Leute nicht gerne auf U-Booten sind. Aber stellen Sie sich Begegnungen im Stil von „Hunt for Red October“ zwischen autonomen Tauchbooten vor der Küste Chinas oder vor der Pazifikküste der Vereinigten Staaten vor: Das ist nichts, was Sie Systemen überlassen möchten, bei denen es ziemlich schwierig ist, vorherzusagen, wie sie sich in der Praxis verhalten werden.

Dann stellt sich die Frage, was wir einander schulden, auch im Krieg, und ob es so etwas wie ein Recht darauf gibt, nicht von einem Roboter getötet zu werden. Die Menschen haben eine vernünftige Vorstellung davon, dass der Respekt vor dem menschlichen Leben auch im Krieg Grenzen setzt. Wir zielen nicht direkt auf Zivilisten ab. Wir verwenden keine Waffen, die über die militärische Notwendigkeit hinaus andere Auswirkungen auf die Person haben. Es gibt beispielsweise Verbote für Giftgeschosse. Es gibt einige Arten, Menschen zu töten, zu denen die internationale Gemeinschaft einfach gesagt hat: „Nein, das werden wir nicht tun.“

Die Frage ist also: Wenn Sie einen Krieg führen, was schulden Sie dem Feind? Eine Sache, die Sie ihnen schuldig sind, ist, dass ein Mensch die Entscheidung trifft, ob er lebt oder stirbt. Ein Mensch, der Verantwortung übernehmen und diese Entscheidung treffen muss – das ist etwas, das wir einander schulden.

Das wird kompliziert. Wenn Sie an eine Zukunft denken, in der ich sage: „Ich habe jemanden getötetmit„Ein Roboter“, dann töte ich sie. Und ich habe eine Entscheidung getroffen. Aber wenn Sie sich das als eine Zukunft vorstellen, in der dieRoboterWenn jemand entscheidet, wen er tötet, würde er sagen: „Nein, das ist respektlos gegenüber der Menschlichkeit unseres Feindes.“

Die Leute denken fälschlicherweise, dass es bei der Ethik der Kriegsführung nur um den Sieg und die Konsequenzen geht, aber das ist einfach nicht der Fall. Denn sonst würden Sie den Kindergarten des Feindes ins Visier nehmen; Meine Verteidigungspolitik könnte sein, dass ich Ihre Kinder brate, wenn Sie mich angreifen. Das gewinnt einen Krieg schnell; es bringt Frieden. Aber das ist die Logik des Terrorismus.

Es gibt so etwas wie die „Theorie des gerechten Krieges“, das internationale Kriegsrecht oder die Militärethik. In diesem Zusammenhang beschränken wir die Arten von Waffen, deren Einsatz wir bereit sind. Ich hoffe, dass wir autonome Waffensysteme in die Liste der absolut verbotenen Dinge aufnehmen werden.

Nick French

Wie genau ziehen Sie die gerade erwähnte Unterscheidung zwischen einer Person, die einen Roboter benutzt, um jemanden zu töten, und dem Roboter selbst, der jemanden tötet?

Robert Sparrow

Diese Frage besteht aus zwei Teilen. Die eine ist eine praktische Komponente: Wie viel Kontrolle habe ich über das Ziel des Roboters, darüber, was er tötet? Zum Beispiel das russische System – man hätte einfach viele Drohnen abfeuern und hoffen können, dass einige davon auf den Gasflaschen landen. Oder Sie könnten ein System bauen, das Gasflaschen erkennt, und sind sich jetzt sicherer, was Sie angreifen.

Es gibt mittlerweile Situationen, in denen die Maschinen den Menschen deutlich überlegen sind. Zum Beispiel Luftverteidigungssysteme: Das Abschießen anfliegender Marschflugkörper ist etwas, was Menschen einfach nicht können. Wenn sie es versuchen würden, würden sie verbündete Flugzeuge abschießen. Sie würden zivile Flugzeuge abschießen. Sie können eine computergesteuerte Kanone haben, die ziemlich zuverlässig ist.

Es stellt sich eine praktische Frage, wie sicher man sein kann, dass ein Waffensystem ein bestimmtes Ziel und nur dieses bestimmte Ziel angreift. Es gibt einige Anwendungsfälle, in denen Sie viel Kontrolle haben können: zum Beispiel die U-Boot-Abwehr. Es gibt einfach nicht viele zivile U-Boote. Meine Chancen, Zivilisten zu töten, wenn ich herumlungernde Unterwassermunition einsetze, sind gering. Ich kann Verantwortung übernehmen; Ich weiß, dass ich dies autorisiert habe. Es wird da rausgehen und ein U-Boot töten.

Die Erkennung von Übergaben erweist sich für diese Systeme als schwieriges Problem. Es ist schwierig, sie so zu gestalten, dass sie die Hingabe erkennen. Aber es gibt Arten von Konflikten, bei denen die Anerkennung von Kapitulation ohnehin nicht zu den Dingen gehört, die Menschen tun. Mit Ausnahme der Kapitulationserkennung können einige dieser Systeme dem sogenannten „Prinzip der Unterscheidung“ folgen, bei dem sie nur legitime militärische Ziele angreifen.

Dann haben Sie den Fall, in dem Sie sagen: „Flieg durch diese Stadt und töte jeden, der mein Feind ist“, oder: „Fliege durch die Stadt und töte jeden, der ein Gewehr in der Hand hält.“ In manchen Kontexten tragen Menschen Gewehre, weil es das ist, was Kerle tun. In diesem Zusammenhang haben Sie nicht viel Kontrolle darüber, was angegriffen wird.

Das ist die praktische Komponente. Kann ein Mensch zuverlässig sagen, was er angreifen wird? Wenn ja, dann könnten Sie sagen: „Okay, das ist ein Beispiel dafür, wie ein Mensch einen anderen Menschen mit einem Roboter tötet.“

Es gibt auch die philosophische Frage nach der Natur der Autonomie des Systems. Wenn Sie an die Erfahrungen denken, die Sie heutzutage machen, wenn Sie mit ChatGPT sprechen, verfallen Sie leicht in eine Agentursprache: „Es hat sich entschieden, so zu antworten“ oder „Es hat meine Reise für mich gebucht.“ Je häufiger Sie diese Sprache über ein System verwenden, desto weniger sieht es so aus, als würde ein Mensch einen anderen Menschen mit einem Roboter töten, und desto mehr sieht es so aus, als würde ich einen Roboter rausschicken, um Menschen zu töten – aber dass er das Töten tut.

Ein Teil dessen, was hier notwendig ist, besteht darin, auf die Sprache zu achten, die die Menschen über diese Systeme verwenden und wie sie sie beschreiben. Wenn sie sie auf eine Weise beschreiben, die darauf hindeutet, dass ein Mensch nicht die Kontrolle hat und nicht für das Geschehen verantwortlich ist, dann ist das respektlos gegenüber der Menschlichkeit des Feindes.

Es besteht die Wahrscheinlichkeit, dass Befehlsfunktionen an KI-Systeme übergeben werden. Eines der Dinge, die mich im Moment interessieren, ist, ob das Militär bereit sein wird, Entscheidungen zuzulassen, bei denen es um Tötungen gehen könnteihre eigenenTruppen, die diesen Systemen übergeben werden sollen.

Das Militär ist größtenteils mit der Idee einverstanden, dass die Maschine darüber entscheiden könnte, wer von den Feinden lebt oder stirbt. Aber wenn Sie fragen: „Sind Sie bereit, Befehle von einem KI-Kommandosystem anzunehmen, wobei dieses KI-Kommandosystem möglicherweise entscheidet, dass Ihre Aufgabe darin besteht, auf diesem Hügel zu stehen und sich selbst zum Ziel zu machen, damit wir auf der linken Flanke herumschleichen und gewinnen können? Sind Sie dazu bereit?“ Mein Verdacht ist, dass das Militär wirklich zurückschrecken wird, wenn ihr Leben auf dem Spiel steht. Das sagt dir etwas.

Nick French

Lassen Sie uns über das Problem sprechen, KI-Systeme unter Kontrolle zu haben. Du warst Co-Autor einesArtikelmit Adam Henschke im Jahr 2023 über die Idee des „Minotaurus-Kriegskampfes“, was ein sehr eindrucksvolles Bild ist. Könnten Sie diese Metapher entschlüsseln und erklären, warum Sie vorhergesagt haben, dass wir mehr Fälle sehen werden, in denen KI menschliche Truppen befehligt?

Robert Sparrow

Wir sehen es bereits. Der gerade erschienene Film NAZA handelt von israelischen Systemen, die Ziele in Gaza nominierten – genau das hatten Adam und ich vorhergesagt. Es gibt Menschen, die Waffen auf Ziele abfeuern, die von Maschinen ausgewählt wurden.

Niemand verkauft jemals ein KI-System an qualifizierte Fachkräfte, indem er ihnen sagt, dass es sie arbeitslos machen wird. Was Sie ihnen sagen, ist, dass es die Hauptarbeit erledigen wird; Es erledigt die Dinge, die Sie nicht als besonders wertvoll erachten, und gibt Ihnen die Freiheit, sich den wichtigen Aufgaben zu widmen.

Auch hier gibt es einen starken Hollywood-Einfluss. Als das Militär mit der Planung einer Zukunft begann, in der Roboter eine Rolle in der Kriegsführung spielen würden, entschieden sie sich für eine Art Iron-Man-Modell, die Idee, dass ein Mensch von einer Wolke aus Robotern und Maschinen umgeben sein wird. Der Mensch wird das Kommando haben und die Roboter werden den menschlichen Willen verwirklichen.

Das Modell, das die Menschen entwickelten, war die Idee des „Zentaurenkriegskampfes“. Das ist ein einflussreiches Konzept. Die Idee ist, dass man einen menschlichen Kopf auf dem Körper eines Tieres hat – das ist der Zentaur. Sie haben ein Team aus Menschen und Maschinen, wobei die Maschinen den Befehlen der Menschen folgen. Die Behauptung war, dass dies tatsächlich gegen vollständig autonome Systeme gewinnen würde, da der Mensch in bestimmten Kontexten immer noch in der Lage sei, überlegene Entscheidungen zu treffen.

Die Idee war, dass Teams aus Menschen und Robotern entweder Menschen oder Roboter übertreffen würden. Dies traf in der Geschichte des Schachs einmal zu. Die Leute waren sehr aufgeregt, als die Schachcomputer Menschen schlagen konnten. Doch dann stellte sich heraus, dass Menschen, die mit Schachcomputern arbeiteten, die Computer alleine schlagen konnten. Für einen kurzen Zeitraum würden diese Mensch-Maschine-Teams entweder Menschen oder Maschinen schlagen. Das stimmt im Schach eigentlich nicht mehr; Die Maschinen gewinnen jetzt einfach.

Wie auch immer, das war das Modell. Dadurch kann das Militär den Offizieren versichern, dass sie weiterhin einen Job haben werden. Dies ist Teil einer Art Aufklärungstradition, dass der Geist dem Körper überlegen ist; Wenn es darum geht, wer den Wolkenkratzer baut, ist es der Architekt und nicht die Männer auf dem Gerüst.

Adam und ich haben darauf hingewiesen, dass dies ziemlich unwahrscheinlich ist. Die Leute dachten immer, dass die mentalen und kognitiven Dinge für die KI wirklich schwierig sein würden. Planung, Mathe, Schach: Das waren alle Tests. Tatsächlich waren die Maschinen darin sehr schnell sehr gut. Gehen – das konnten sie nicht. Sie können immer noch keinen Roboter bauen, der in Ihr Büro gehen und den Mülleimer leeren kann. Die Dinge, die Kleinkinder können – herumlaufen, Gegenstände erkennen und aufheben – erwiesen sich als wirklich schwierig. Und all die kognitiven Dinge erwiesen sich als machbar. Aber sie können die körperlichen Dinge nicht tun.

Denken Sie an Orte, an denen wir Mensch-Maschine-Teams haben. Denken Sie an Uber. Wir haben schon lange die Idee, dass ich eine Stecknadel fallen lassen und mich von einem Robotertaxi abholen lassen kann. Aber vor allem haben wir es mit Einwanderern zu tun, mit Menschen, die Taxis fahren und denen ein Algorithmus sagt, wohin sie gehen sollen. Oder in den großen Auslieferungslagern von Walmart oder Amazon gibt es Leute, die im Wesentlichen die Hände von Computern sind. Die menschliche Arbeit besteht darin, Dinge aufzuheben und in eine Papiertüte zu stecken. [Entscheiden], wohin es versendet wird, Drucken des Etiketts, Bestellen von Produkten – alle kognitiven Aufgaben werden von KI erledigt.

Wenn man sich die Zusammenarbeit zwischen Mensch und Maschine in der realen Welt ansieht, stellt sich heraus, dass die Dinge, die die Infanterie tun kann, viel schwieriger sind. Aber Befehle zu erteilen ist jetzt machbar. Wir glauben also, dass im Wesentlichen die Offiziere und sogar die Generäle durch Computer ersetzt werden. Aber die Infanterie – die Menschen, die durch den Schlamm und über den Stacheldraht kriechen müssen – werden Menschen sein. Das Modell dort ist ein monströser Kopf auf einem menschlichen Körper, der der Minotaurus ist. KI befiehlt Menschen, und Menschen befolgen ihre Befehle.

Wir glauben, dass diese Dinge tatsächlich gewinnen könnten und dass die Menschen es vorziehen würden, von einer Maschine gesteuert zu werden. Ich bin dazu gekommen, indem ich mir ein Projekt angesehen habe, bei dem die US-Armee jedem eine Art Microsoft HoloLens geben wollte. Heutzutage haben sie alle am Kopf montierte Kameras; Sie werden alle eine Google-Brille haben. Sie haben sich angeschaut, was die Leute sich von diesen Systemen vorstellen; es war eine Bedrohungsanalyse. Ihre Brille würde Ihnen sagen: „Sie haben dreißig Sekunden Zeit, um dorthin zu gelangen und diese Person zu erschießen.“ Es war völlig klar, dass Menschen zu Marionetten dieser Bedrohungsbewertungsalgorithmen werden würden.

Die Leute gehen davon aus, dass die Maschinen einem Ratschläge geben. Aber sie denken auch, dass sie zu übermenschlichen Leistungen fähig sind. Aber wenn mein Berater besser ist als ich, muss ich einfach tun, was er sagt. Das Modell des Hinterfragens dessen, was die Maschinen sagen. . .  Es ist nur ein sehr begrenzter Zeitraum, in dem das wahr ist. Wenn sie wirklich zu übermenschlichen Leistungen fähig sind, was jeder sagt, dann sollten Menschen diese Entscheidungen einfach nicht mehr treffen. Wenn die Maschine mir sagt, ich solle mich ducken, ducke ich mich. Wenn ich es nicht tue, sterbe ich. Mir wäre es lieber, wenn mir die Maschine das sagt, als dass ein Mensch langsamer und weniger zuverlässig ist.

Was wir jetzt wieder sehen, ist die Rolle, die KI in der Ukraine oder in Gaza spielt, darin, dass diese Algorithmen menschlichen Artilleriesystemen im Wesentlichen vorgeben, was sie angreifen sollen. Sie verfügen über eine Integration der Daten jeder Drohne, jedes Satelliten, und der Algorithmus gibt im Wesentlichen Ziele an Menschen weiter. Das ist ein frühes Beispiel für den Kampf der Minotaurus.

Nick French

Wirft das eindeutige moralische Bedenken auf, wenn Roboter das Sagen haben? Bei solchen Systemen äußern die Leute manchmal die Sorge, dass es niemanden gibt, der für das, was sie tun, verantwortlich gemacht werden kann.

Robert Sparrow

Die Frage nach der Verantwortung ist bei autonomen Waffensystemen und KI-Befehlsfunktionen dieselbe. Interessant ist, dass Menschen unterschiedlich reagieren.

Wenn ich einen Drohnenschwarm losschicke, um feindliche Panzer zu töten, und Sie fragen: „Wer ist dafür verantwortlich?“ Ich sage, das stimmt, weil ich das System entworfen und damit beauftragt habe, Panzer zu töten, und ich habe überprüft, ob es funktioniert. Dann dürfte das auch für die Leute gelten, die das KI-Befehlssystem entwerfen. Aber ich vermute, dass die Menschen viel weniger optimistisch sein werden, was die Möglichkeit angeht, von einer Maschine praktisch in den Tod geschickt zu werden, und dass wir davon ausgehen werden, dass irgendein Mensch daran beteiligt ist.

Auch hier besteht die Gefahr eines Mission Creep. Bei so etwas wie der Logistik sind die Maschinen wirklich gut darin, große Betriebsabläufe mit vielen LKWs und Schiffscontainern zu bewältigen. Wenn die Maschinen entscheiden, welche Truppen Waffen bekommen, dann bestimmen sie bereits, wer lebt und stirbt. Wenn die Maschine gesagt hat: „Sie stehen auf unserer Prioritätenliste an dritter Stelle und bekommen heute keine Munition. Aber jemand muss diese Position halten, während der Rest von uns sich zurückzieht, und diese Person wird sterben“; Die Maschine sagt, dass du es bist. Ich denke, die Leute werden darüber zutiefst beunruhigt sein, auch wenn sie sich durchaus damit auskennen, diese autonomen Kampfhubschrauber auszusenden, um feindliche Panzer zu zerstören oder feindliche Truppenbewegungen aufzuspüren.

Dieses israelische System, Lavender, das Ziele in Gaza auswählte: Jemand hat das gebaut, und so wie ich es verstehe, konnte man den Schieberegler für zivile Opfer nach oben oder unten bewegen [um die Zahl der akzeptablen zivilen Opfer anzupassen]. Die Leute überprüften die Ziele, aber sie verbrachten zwanzig Sekunden damit, sie zu überprüfen. Und jemand entschied über den Grad der Beweise, die erforderlich waren, um festzustellen, dass es sich bei jemandem um einen Hamas-Aktivisten handelte. Es waren also Menschen beteiligt, aber auf einer bestimmten Ebene ist es ziemlich klar, dass dieser Algorithmus Ziele auswählte und die Menschen nur das taten, was er sagte.

Nick French

Sie plädieren für ein Verbot autonomer Waffensysteme und haben gesagt, dass ein völliges Verbot realistischer wäre, als zu versuchen, angemessene moralische und rechtliche Beschränkungen aufzuerlegen. Können Sie Ihre Überlegungen dazu erläutern?

Robert Sparrow

Fast niemand denkt, dass diese Dinge völlig unproblematisch sind. Das Militär selbst ist wirklich besorgt: Welche Auswirkungen hat es auf den Zusammenhalt der Einheiten? Woher weiß ich, dass dieses Ding meine Truppen nicht versehentlich tötet?

Jeder denkt zum Beispiel daran, ihnen die Verantwortung für einen nuklearen Zweitschlag zu übertragen – nur die echten Dr. Strangeloves sind bereit, dorthin zu gehen. Es gibt einen historischen Präzedenzfall für den sogenannten „Start bei Warnung“. Es gibt eine Zeit, in der es scheint, als sei das russische Atomarsenal auf diese Weise konzipiert worden. Sie verbinden die Frühwarnradare mit dem Computer, mit der Feuerleitung, weil Sie befürchten, dass jemand einen Enthauptungsangriff ausführt, und das gibt Ihnen eine zuverlässige Fähigkeit zum Zweitschlag. Es ist unglaublich gefährlich, wenn man bedenkt, was wir über die Grenzen unseres Systems wissen.

Die meisten Leute sagen, wenn sie über dieses Thema nachdenken, dass es einer Regulierung bedarf. Aber jeder erkennt auch, dass es sich um eine sehr schwer zu regulierende Technologie handelt. Man kann ein System haben, das ferngesteuert läuft, mit einem Menschen auf dem Laufenden, und dann schließt jemand ein USB-Laufwerk daran an und plötzlich fährt es selbst.

Wenn man Einfluss auf die Zukunft der Kriegsführung nehmen will, scheint es mir wahrscheinlicher, dass es effektiver ist, ein paar klare Grenzen zu ziehen, die es den Menschen politisch erschweren, diese Technologie zu mobilisieren, als etwas, das auf dem Papier vielleicht gerechtfertigter wäre. Wenn man Landminen verbietet, gibt es diese Art von Debatte: Sagen Sie einfach, keine Antipersonenminen, oder sagen Sie, keine Minen, die sich nicht selbst deaktivieren? Für zivile Opfer durch Landminen gibt es unterschiedliche technische Lösungen. Aber wenn Sie einfach sagen: „Sehen Sie, nichts davon ist erlaubt“, begründet das eine klare moralische Erwartung und macht es beispielsweise für Menschen einfacher, sich zu weigern, daran zu arbeiten.

Man braucht wirklich die Ingenieursberufe, die sagen: „Wir werden keine Maschinen bauen, die ihre Ziele selbst wählen.“ Die ausgefeilteren Versuche, diese Systeme zu regulieren, sind schwerer zu überprüfen und lassen den Menschen Spielraum. Es ist wie: „Okay, mein System ist das nichtvollautonom. . . . „Wir müssen auf die sogenannte Ausdrucksfunktion der Regulierung achten, bei der es darum geht, deutlich zu machen, dass wir uns alle auf ein Verbot einigen.“

Wenn man sich die Geschichte beispielsweise des Verbots von erstickenden Gasen anschaut, findet man all diese Leute, die sagen: „Das ist eine viel humanere Methode der Kriegsführung“; „Wir werden Kriege schneller gewinnen“; „Was ist der Unterschied zwischen der Tötung mit Gas oder der Tötung mit Kleinwaffen? Der Tod durch Kleinwaffen ist schrecklich.“ Das pauschale Verbot macht all dem einen Strich durch die Rechnung.

Dies ist eine Auseinandersetzung darüber, wie gesellschaftlicher und politischer Wandel in diesem Bereich zustande kommt. Große, mutige Gesten haben viel mehr Erfolg als ein schleichender, bürokratischer Versuch, die Dinge zu verfeinern. Das dehnt die Argumentation einfach ins Unendliche aus und lässt den Leuten Spielraum, so dass sie nicht mit dem wahren Schrecken dessen konfrontiert werden, was sie tun.

Nick French

Ich wollte Sie fragen, was Sie von der aktuellen Panik in den Nachrichten über KI halten – der Vorstellung, dass sie eine existenzielle Bedrohung für die Menschheit darstellt und dass wir eine Art Pause oder Verlangsamung der Entwicklung brauchen.

Robert Sparrow

Zunächst muss man sagen, dass es für jemanden außerhalb des inneren Kreises dieser Unternehmen unglaublich schwierig ist, wirklich zu verstehen, wozu die Modelle in der Lage sind. Es gibt immer noch viel zu sagenUmarmendes GesichtVorfall, der nicht aufgedeckt wurde, weil es in den Organisationen ziemlich viel interne Zensur gibt.

Die Art und Weise, wie wir über die Zukunft denken, ist zu einem großen Teil von der Science-Fiction bestimmt. Die Ingenieure machten sich daran, futuristische Dinge zu bauen. Wie sieht die Zukunft aus? Es ist wie Star Trek aus den 1970er Jahren. Hier gibt es einen deutlichen Einfluss der Science-Fiction, die auch die Idee einer Roboterapokalypse beinhaltet. Auch hier gibt es eine wirklich interessante Rassen- und Klassenpolitik bei Robotern, denn die gesamte Idee eines Roboters bezog sich ursprünglich im Wesentlichen auf eine Art Arbeiter. Ängste vor Roboteraufständen waren Ängste vor dem Sozialismus.

All das macht es schwer zu sagen, wie begründet diese Paniken sind. Wenn ich jedoch sagen würde, dass die Wahrscheinlichkeit, dass Al-Qaida jeden auf der Welt töten würde, bei 10 Prozent liegt – wenn man sich vorstellt, dass es sich um eine terroristische Bedrohung handelt und die Leute in der Verteidigungsindustrie sagen: „Wir glauben, dass die Wahrscheinlichkeit, dass diese Terrororganisation jeden töten würde, bei 10 Prozent liegt“ –, würde niemand sagen: „La la la, mal sehen, was passiert.“

Daher neige ich dazu, sie beim Wort zu nehmen. Große Persönlichkeiten in der Geschichte der KI haben sich geäußert und gesagt, dass dieses Zeug eine existenzielle Bedrohung darstellt. Einerseits gibt es nichts so Dummes, dass es keinen Professor gibt, der daran glaubt. Nur weil Sie ein kluger Physiker oder Informatiker sind, bedeutet das nicht, dass Sie gut qualifiziert sind, über die Zukunft zu sprechen, denn die Zukunft ist nicht nur eine technische Frage. Es ist politisch – es ist etwas, das wir ändern können.

Aber angesichts der Anzahl dieser Leute, die sagen, dass dies eine Gefahr darstellt und dass dies uns alle umbringen wird, denke ich, dass wir alle Labore schließen sollten. Schalten Sie einfach alles ab. Ich finde die Vorstellung, dass man vorsichtig vorgehen oder eine Pause einlegen würde, wirklich seltsam, wenn man bedenkt, was sie über die Art der Bedrohung gesagt haben.