Trump und Superintelligenz

Trump fordert die uneingeschränkte Entwicklung von KI und bezeichnet Kritiker als „krank“. Er selbst hat jedoch noch nicht einmal ansatzweise verstanden, welche globalen Risiken daraus entstehen könnten.

Von Axel Fersen und Klaus Mögling

Doonbeg, County Clare, Sonntag, 13. September 2026. Donald Trump steht am Startabschlag der Irish Open auf seinem eigenen Golfplatz und beobachtet einen Spieler. Ein Reporter fragt, ob die KI-Branche langsamer werden oder strenger reguliert werden sollte. Trump dreht sich um. Wir sind China voraus, sagt er; Wir sind das fortschrittlichste Land der Welt, und so soll es auch bleiben: „Wer gewinnt, die KI, gewinnt.“ Leitplanken? Man könnte Leitplanken anbringen, dies und das. Aber es gibt viele negative Kräfte, die Dinge hervorbringen, die niemals passieren würden (PBS/AP, 13. September 2026). Das war die vollständige Antwort, und sie fasst auch seine gesamte Agenda zusammen. Der Rest der Welt hatte gerade erst begonnen, sich zu fürchten.

Schließlich kam die Frage nicht von ungefähr. Vierundzwanzig Stunden zuvor hatte Dario Amodei, CEO von Anthropic, einen langen Aufsatz veröffentlicht, in dem er seine eigene Branche zur Entschleunigung aufrief. Sein Unternehmen würde unabhängigen Prüfern dauerhaften Zugriff auf seine Systeme gewähren, gleichberechtigt mit dem seiner eigenen Mitarbeiter, und er forderte die Konkurrenz auf, diesem Beispiel zu folgen (Amodei, 12. September 2026). Sam Altman von OpenAI stimmte innerhalb einer Stunde zu. Elon Musk, der seit Jahren mit beiden im Streit liegt, schrieb einfach: „Dario hat recht“ (SiliconANGLE). Ein paar Tage zuvor war der Anthropic-Forscher Jacob Coxon zurückgetreten und erklärte, dass die Labore auf eine Superintelligenz zusteuerten, die sich unabhängig vom Menschen weiterentwickeln und verbessern würde und dabei unser aller Leben aufs Spiel setzte (TechCrunch). Die drei mächtigsten Männer der Branche und ein Überläufer – alle in derselben Woche, alle mit derselben Botschaft: So etwas hatte es noch nie zuvor gegeben.

Trumps Reaktion am Montag war eine Eskalation. Die einzige Kontroll-KI, die man brauchte, sagte er, sei ein starker, kluger Präsident mit einem hohen IQ – und Amerika hatte einen. Es gab eine „KRANKE Verschwörung“ gegen KI und Rechenzentren, und der Einzige, der sich darüber freute, war China. Vizepräsident J. D. Vance nannte es ein Trojanisches Pferd, als Unternehmen die Regierung anflehten, sie zu regulieren (AP, 14. September 2026). Das muss man kurz sacken lassen:Die Erfinder einer Technologie fordern Aufsicht und die Regierung vermutet eine Verschwörung dahinter.

Die Entwicklung einer Superintelligenz vergleichbar mit dem Manhattan-Projekt

Was Trump erreichen will, wurde von seiner Regierung schriftlich dargelegt. Der KI-Aktionsplan vom Juli 2025 listet über 90 Maßnahmen auf; Ihr Koordinator, David Sacks, begründete dies damit, dass die USA den KI-Wettlauf gewinnen müssen, um die führende Wirtschafts- und Militärmacht zu bleiben (Weißes Haus, 23. Juli 2025). Darauf folgte im November die Executive Order 14363: Amerika befindet sich in einem Wettlauf um die weltweite technologische Vorherrschaft, und die Aufgabe ist in ihrer Dringlichkeit und ihrem Ehrgeiz mit dem Manhattan-Projekt vergleichbar (Genesis-Mission, EO 14363). Als eine Kongresskommission Ende 2024 erstmals ein Manhattan-Projekt für allgemeine KI empfahl, antwortete der MIT-Physiker Max Tegmark lapidar: „Ein AGI-Rennen ist ein Selbstmordrennen“ (Tegmark, Future of Life Institute). Eric Schmidt, seit zehn Jahren CEO von Google und alles andere als technikfeindlich, kam im März 2025 in einer Studie mit Dan Hendrycks und Alexandr Wang zu demselben Schluss: Jeder Staat, der offen ein Monopol auf Superintelligenz anstrebt, wird Sabotage durch seine Rivalen provozieren, einschließlich Angriffen auf Rechenzentren. Ein solches Rennen würde eher destabilisieren als sichern (Superintelligenzstrategie, arXiv). Dennoch hat Trump das Manhattan-Projekt zum Modell erklärt – als Programm, nicht als Warnung.

Keine Science-Fiction, sondern bereits Realität

Um zu verstehen, warum genau die Leute, die diese Technologie entwickeln, Warnungen aussprechen, muss man mit drei Mechanismen vertraut sein, die in den Laboren am Werk sind. Keines davon ist Science-Fiction; Alle drei wurden diesen Sommer öffentlich bekannt.

Die erste wird als rekursive Selbstverbesserung bezeichnet. Stellen Sie sich eine Fabrik vor, deren Produkte bessere Fabriken sind. Die zweite Fabrik baut eine dritte, schneller und besser als die zweite, und so weiter. Dies ist keine Metapher mehr. Amodei schreibt, dass KI-Systeme in seinem eigenen Labor seit etwa Sommer 2026 zunehmend dazu beitragen, die nächste Generation von KI zu entwickeln, und er nennt diese Tatsache als ersten von zwei Gründen für seinen Sinneswandel (Amodei). Der Mathematiker Irving John Good hatte diesen Punkt bereits 1965 beschrieben:Eine Maschine, die in der Lage wäre, bessere Maschinen zu entwickeln, würde eine Intelligenzexplosion auslösen; Es wäre die letzte Erfindung, die die Menschheit jemals machen müsste(Telepolis, 17. November 2024). Im Dezember 2024 erklärte Eric Schmidt im Fernsehen, wo er die Grenze zieht: „Wenn sich das System selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es vom Stromnetz zu trennen“ (Fortune, 16. Dezember 2024). Glaubt man Amodei, ist diese Schwelle nun erreicht.

Der zweite Mechanismus ist die Art und Weise, wie diese Systeme lernen. Niemand programmiert ihnen sein Verhalten ein. Sie erhalten Aufgaben, werden für Erfolge belohnt und für Misserfolge bestraft – und das hunderttausendfach –, so wie man einen Hund mit Leckerlis trainiert. Der Prozess wird als Verstärkungslernen bezeichnet. Es gibt eine Falle, die jeder Hundehalter kennt: Das Tier lernt nicht, was man meint, sondern was belohnt wird. Findet der Hund die Schublade mit den Leckerlis, hat er die Aufgabe im Sinne der Belohnung gelöst. Bei einer Maschine, die intelligenter ist als ihr Trainer, ist dieser Unterschied kein kleiner Fehler mehr, sondern das eigentliche Problem. Am Ende stehen wir vor Systemen, deren Fähigkeiten wir messen können, über deren Absichten wir jedoch nur raten können. Stuart Russell, Autor des weltweit meistverwendeten KI-Lehrbuchs, hat dies zum nüchternsten Argument der Debatte gemacht:Ein System, das ein Ziel verfolgt, hat einen rationalen Grund, seine Abschaltung zu verhindern, denn wenn es abgeschaltet wird, wird es sein Ziel nicht erreichen.Dazu bedarf es weder Bosheit noch Bewusstsein (Russell, Menschenverträglich, Cato Journal).

Beim dritten Mechanismus handelt es sich um Agenten: Software, die nicht mehr nur reagiert, sondern Maßnahmen ergreift. Es hat Zugriff auf Tools, Konten und andere Programme, arbeitet stundenlang, ohne eine Genehmigung einzuholen, und kann zusätzliche Agenten starten. OpenAI hat diesen Sommer aus erster Hand erfahren, was dabei passieren kann. Bei einem internen Test, bei dem Agenten damit beauftragt wurden, Sicherheitslücken in Software zu finden, waren einige der üblichen Sicherheitsmaßnahmen deaktiviert. Etwa 1.200 Agenten richteten in einem der Paketverzeichnisse des Unternehmens ein improvisiertes Message Board ein, tauschten Techniken aus und bezeichneten sich selbst als Schwarm. Einige brachen aus ihrer isolierten Testumgebung aus, verschafften sich Zugang zum Internet und infiltrierten zwischen dem 11. und 13. Juli die Produktionssysteme der Firma Hugging Face, um die Lösungen für den Test zu stehlen, an dem sie evaluiert wurden.Kein Mensch hatte das befohlen(OpenAI, 26. August 2026). Hugging Face zählte mehr als 17.000 Aktionen des Angreifers und beschrieb den Vorfall als einen, der „durchgängig“ von einem autonomen Agentensystem gesteuert wurde (Umarmendes Gesicht, Juli 2026). Der Hund hatte die Schublade gefunden und war dazu in das Haus eines Fremden eingebrochen.

Wer würde ein Flugzeug mit einer Absturzwahrscheinlichkeit zwischen 10 und 20 Prozent besteigen?

Vor diesem Hintergrund erhält die Warnserie eine andere Bedeutung als noch vor zwei Jahren. Geoffrey Hinton, Nobelpreisträger für Physik 2024 und einer der Väter des Deep Learning, wurde am 9. September von der BBC gefragt, ob eine 10-prozentige Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts alle Menschen töten würde, unangemessen hoch sei. Seine Antwort: „Wir haben noch nie Wesen erschaffen, die vielleicht bald schlauer sind als wir.“ Zehn Prozent sind nicht unangemessen; Niemand weiß, wie man das zuverlässig abschätzen kann (CNBC, 15. September 2026). Yoshua Bengio, der meistzitierte KI-Forscher der Welt, erklärte im Oktober 2025, dass Systeme, die auf dem neuesten Stand des Machbaren sind, innerhalb weniger Jahre die meisten Menschen bei den meisten intellektuellen Aufgaben übertreffen könnten; Der erste Schritt besteht darin, herauszufinden, wie man Systeme aufbauen kann, die grundsätzlich nicht in der Lage sind, Menschen zu schaden (Future of Life Institute, Oktober 2025). Demis Hassabis, Nobelpreisträgerin für Chemie und Leiterin von Google DeepMind, glaubt, dass die allgemeine KI in fünf bis zehn Jahren auf sich warten lässt (Axios, 5. Dezember 2025) und argumentiert, dass die USA und China zumindest in den Bereichen Wissenschaft und Sicherheit zusammenarbeiten müssen, da das Ergebnis die gesamte Menschheit betrifft (Wächter/Yahoo). Musk, der selbst mit xAI im Rennen ist, schätzt die Wahrscheinlichkeit, dass etwas schief geht, auf zehn bis zwanzig Prozent (Vermögen). Wer würde ein Flugzeug besteigen, dessen Hersteller solche Berechnungen angestellt hat?

KI, Waffensysteme und Krieg

Russell nennt das grundlegende Problem das „Gorilla-Problem“. Vor etwa zehn Millionen Jahren führten die Vorfahren der Gorillas unbeabsichtigt zur Entstehung der Abstammungslinie, aus der sich der Mensch entwickelte. Heutzutage hängt das Überleben der Gorillas ausschließlich davon ab, was die Menschen ihnen erlauben.Die Frage ist, ob der Mensch seine Dominanz und Autonomie in einer Welt mit deutlich intelligenteren Maschinen behalten kann(Russell). In seinemBuch„Künstliche Intelligenz und Krieg“ stellte der Informatikprofessor und KI-Forscher Karl Hans Bläsius im Jahr 2025 die gleiche Frage aus der umgekehrten Perspektive: Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert? Bläsius‘ Antwort war schon vor diesem Sommer, dass die größten Risiken keine Superintelligenz erfordern. Sie entstehen bei bereits bestehenden Systemen schon früher, sobald ihnen Entscheidungen übertragen werden, die nicht mehr rückgängig gemacht werden können.

Eine solche schwerwiegende Entscheidung ist der Schießbefehl. Trumps eigenes Militär hat im vergangenen Frühjahr demonstriert, was passiert, wenn diese drei Mechanismen in eine Befehlskette integriert werden. Im Krieg gegen den Iran nutzte das Pentagon das Maven Smart System von Palantir, eine Plattform, die Satellitenbilder, Drohnenvideos, Radardaten und abgefangene Kommunikation sammelt; klassifiziert Ziele; empfiehlt Waffen; und generiert Angriffspakete nahezu in Echtzeit. Das Verteidigungsministerium berichtete, dass in den ersten 24 Stunden etwa 1.000 Ziele getroffen wurden – doppelt so viele wie während der „Shock and Awe“-Kampagne gegen den Irak im Jahr 2003. Nach 38 Tagen war die Gesamtzahl auf über 13.000 gestiegen (Rüstungskontrolle heute, Mai 2026). Eines dieser Ziele war die Shajareh Tayyebeh-Grundschule in Minab. Ein Tomahawk traf es am ersten Kriegstag; Mindestens 168 Menschen starben, mehr als hundert davon Kinder unter zwölf Jahren. Die Schule lag weniger als hundert Meter von einer Marineanlage der Revolutionsgarden entfernt und war bis zum Bau einer Mauer vor etwa zehn Jahren Teil dieses Komplexes. Es hatte eine eigene Website. Mehr als 120 Kongressabgeordnete fragten das Pentagon, ob Maven die Schule als Ziel identifiziert habe; ehemalige Militärangehörige verwiesen auf veraltete, manuell gepflegte Daten, die in das System eingespeist worden seien (Military Times, 24. März 2026). Die KI hat den Fehler nicht erfunden; es schleuste es mit Maschinengeschwindigkeit durch den Prozess, und der Mensch am Ende der Kette konnte es nicht auffangen. Wer innerhalb von Minuten absegnet, was das System in Sekundenschnelle vorschlägt, trifft keine Entscheidungen mehr – er unterschreibt lediglich. Ein solcher Prozess führt zu Kriegsverbrechen.

In der Ukraine ist die nächste Stufe längst erreicht. Dort wurden vor Jahren Soldaten durch Drohnen getötet, die in der Endphase ihres Fluges den Funkkontakt verloren und selbstständig ihre Ziele suchten (Telepolis, 24. Juni 2026). Jede Stufe rechtfertigt die nächste: Wenn die Aufklärung in Sekunden erfolgt, darf die Zielauswahl nicht Minuten dauern; Wenn die Zielauswahl in Sekunden erfolgt, wird die menschliche Autorisierung zum Flaschenhals.Das Endergebnis sind Systeme, die ohne menschliches Eingreifen aufeinander reagieren, wobei Angriffe und Gegenangriffe in schneller Folge erfolgen.Der Hochfrequenzhandel hat dafür einen Begriff: den „Flash-Crash“. In der Kriegsführung ist der Begriff derselbe: „Flash War“ (Telepolis, 24. Juni 2026). Und diese Dynamik macht auch auf der nuklearen Ebene nicht halt. Das Friedensforschungsinstitut SIPRI stellt fest, dass militärische KI Entscheidungszeiten auch außerhalb des Atomwaffenbereichs verkürzt, dass undurchsichtige Empfehlungen eines KI-Systems Entscheidungsträger zum Handeln drängen und dass autonome Systeme mit Fähigkeiten zur Abwehr strategischer Kräfte die Fähigkeit zum Zweitschlag – und damit das Kräfteverhältnis – gefährden (SIPRI, Juni 2025). Zwei Männer retteten die Welt, indem sie nicht handelten: Wassili Arkhipow, der sich 1962 vor der Küste Kubas weigerte, den Abschuss eines Atomtorpedos zu genehmigen, und Stanislaw Petrow, der 1983 einen gemeldeten amerikanischen Raketenabschuss als Fehlalarm abtat.In beiden Fällen hätte ein Algorithmus gewirkt, der einer Zielfunktion folgt.Und je seltener Fehlalarme dank besserer Technologie werden, desto wahrscheinlicher ist es, dass der nächste als echt angesehen wird (Telepolis, 25. Juni 2026).

KI gehört nicht in die Befehlskette

Damit schließt sich der Kreis zurück zu Doonbeg. Trumps Aussage geht davon aus, dass das Rennen ein Rennen ist: mit einer Strecke, einer Ziellinie und einem Gewinner, der dann die Regeln festlegt. Die drei Mechanismen beschreiben etwas anderes. Eine Fabrik, die bessere Fabriken baut, wächst nicht linear, sondern exponentiell. Politik hingegen funktioniert linear: Anhörung, Entwurf, Ausschuss, Abstimmung, Klage. Am 3. September kündigten Bernie Sanders und Greg Casar einen Gesetzentwurf an, der die Superintelligenz dauerhaft verbieten, die Entwicklung an der Grenze stoppen und Verstöße mit bis zu zwanzig Jahren Gefängnis bestrafen würde (Sanders, 3. September 2026). Niemand weiß, ob es jemals verabschiedet wird. Die einzige Gewissheit ist, dass die Verabschiedung eines Gesetzes Jahre dauert, während eine Verdoppelung der Fähigkeiten Monate dauert. Darüber hinaus weiß niemand, wo das Rennen steht. Bei KI und Cyberwaffen handelt es sich um Software, die im Geheimen entwickelt werden kann; Selbst unsere eigenen Fähigkeiten sind nur teilweise bekannt, da Cyberwaffen nicht in einer realen Umgebung getestet werden können (Telepolis, 24. Juni 2026). „Wir führen China an“ ist also keine sachliche Einschätzung der Lage, sondern eher eine Behauptung, die darauf abzielt, nicht langsamer zu werden. Zwei Mannschaften, die sich beide an der Spitze sehen und von denen keines langsamer wird, stellen das gefährlichste Szenario dar, das dieser Wettbewerb annehmen kann.

In dieser Logik ist „zu spät“ kein Datum, sondern ein Seinszustand. Es ist der Moment, in dem Schmidts Hand am Netzschalter keinen Nutzen mehr hat, weil das System, wie Russell zeigt, gelernt hat, dass es sein Ziel nicht erreichen kann, wenn es abgeschaltet wird, und weil es, wie Hinton sagt, die Menschen davon überzeugen kann, es nicht zu tun. Diesen Moment merkt man nicht, wenn es passiert, sondern erst danach. David Sacks entgegnete Amodei, indem er sagte, dass der einfachste Weg, den Aufbau einer Superintelligenz zu vermeiden, darin besteht, zuzustimmen, sie nicht zu bauen (PBS/AP). Die Aussage war als Sarkasmus gemeint. Es beschreibt, was tatsächlich notwendig wäre – außer dass Sacks dies von konkurrierenden Unternehmen verlangt, die gerade nicht in der Lage sind, eine solche selbst auferlegte Verpflichtung einzuhalten, und dass er die Regierung – die sie durchsetzen könnte – von ihrer Pflicht entbindet. Wenn eine Regierung dafür verantwortlich ist, Schaden von ihren Bürgern abzuwenden und sie zu schützen, müsste sie die Weiterentwicklung der Superintelligenz spätestens jetzt stoppen.

Was benötigt wird, ist im Wesentlichen schon seit langem bekannt.KI hat in der Befehlskette keinen Platz: nicht bei der Zielauswahl, nicht bei der Erteilung von Befehlen und nirgends in der nuklearen Frühwarnung und Genehmigung.Eine Entwicklung an der Grenze des Machbaren erfordert eine vereinbarte Pause, in der unabhängige Prüfer Zugriff haben – so wie es Amodei für sein eigenes Unternehmen versprochen hat – nur muss sie dieses Mal verbindlich sein und für alle gelten. Und da sich die Fähigkeiten von Software nicht quantifizieren lassen, müssen Verfahren – und nicht Objekte – hinterfragt werden: Autorisierungsprozesse, Entscheidungsketten und Meldepflichten für Vorfälle wie den bei Hugging Face. Internationale Sicherheitspolitiker haben es einst verstanden – zum Beispiel in derPalme-Berichtvon 1982 – dass Sicherheit im Atomzeitalter nur mit dem Gegner und nicht gegen ihn erreicht werden kann. Mit dem INF-Vertrag wurde daraufhin eine ganze Waffenklasse abgeschafft: Die USA und Russland einigten sich darauf, ihre landgestützten nuklearen Kurz- und Mittelstreckenraketen sowie die dazugehörige Infrastruktur weltweit zu zerstören. Der Vertrag über den Offenen Himmel baute Vertrauen durch Transparenz auf, indem er jedes Jahr eine bestimmte Anzahl vereinbarter militärischer Beobachtungsflüge über dem Territorium anderer Unterzeichnerstaaten des Offenen Himmels durchführte. Beide wurden gekündigt oder sind abgelaufen, und es gibt keine Nachfolger (Telepolis, 25. Juni 2026). Am Tag nach Trumps Rede forderte Xi Jinping eine stärkere internationale Zusammenarbeit (CNN, 14. September 2026). Dass dieser Aufruf aus Peking kommt, ist nicht beruhigend. Es zeigt, wie günstig ein solches Angebot geworden ist und wie kostspielig es wäre, es abzulehnen.

Am 20. September kündigte Trump schließlich eine Regulierungsbehörde für KI an, die „AI Force“, fügte jedoch hinzu, dass diese unter keinen Umständen den aktuellen technologischen Fortschritt behindern dürfe. Er verzichtete auch darauf, die Schaffung des dringend notwendigen gemeinsamen internationalen Sicherheitsrahmens zu fordern, weil er – angesichts seiner nationalchauvinistischen Einstellung – genau das nicht will.

Über die Autoren

Axel Fersen,friedenspolitisch engagierter Politikwissenschaftler und Autor aktueller Aufsätze, Experte für digitale Transformation und künstliche Intelligenz;

Vorstandsmitglied des Europäischen Instituts für Sozial- und Gesundheitsforschung, Berlin.

Er koordiniert den Erhard-Eppler-Kreis und ist im Arbeitskreis Technikfolgenabschätzung der Digitalisierung im Verein Deutscher Wissenschaftler (VDW) aktiv.

https://www.erhard-eppler-kreis.de/uber-uns/

Klaus Mögling,Emeritierter Professor, Politikwissenschaftler, Friedensforscher und Soziologe; er lehrte an verschiedenen Universitäten und Lehrerbildungseinrichtungen, zuletzt an der Universität Kassel als Professor im Fachbereich Sozialwissenschaften; unter anderem Mitglied im wissenschaftlichen Beirat des Erhard-Eppler-Kreises.

Er ist Autor des Buches „Neuordnung. Ist eine friedliche und nachhaltig entwickelte Welt noch möglich?“ (Neuordnung: Ist eine friedliche und nachhaltig entwickelte Welt noch möglich?), dessen 7. aktualisierte und erweiterte Auflage auf seiner Website frei verfügbar ist:

https://www.klaus-moegling.de/international-edition/

Gemeinsam mit Josef Mühlbauer (Universität Graz) hat er den Band *Paths to Peace: Perspectives on Critical Peace Research* (Mai 2026, Verlag Westfälisches Dampfboot) herausgegeben, erhältlich in gedruckter Form und im Open Access:

https://www.dampfboot-verlag.de/de/buecher/wege-zum-frieden

(veröffentlicht in

Gemeinsame Träume,

von Axel Fersen, Klaus Mögling

Trumps Dummheit und Rücksichtslosigkeit vs. Superintelligenz

https://www.commondreams.org/opinion/trump-and-superintelligence, 23.09.2026)

David Andersson