Um die Menschheit vor der KI zu retten, beenden Sie den Kapitalismus

Es war ein Wirbelwind. Letzte Woche sagte Anthropic-CEO Dario Amodei öffentlich, dass wir die KI-Entwicklung verlangsamen müssen, weil die Sicherheitsrisiken zu hoch werden. Dies ist ein Euphemismus für das Risiko eines katastrophalen Ereignisses, das Millionen, wenn nicht die ganze Menschheit, auslöschen würde. Diese Erklärung folgt auf eine öffentliche Warnung eines der Spitzenforscher von Anthropic, Jacob Coxon, der aus dem Unternehmen ausschied und behauptete, dass „ohne internationale Koordination das Risiko besteht, dass wir die Menschheit aussterben“. Auf die Frage von NBC News, ob er „wirklich glaubt, dass KI uns alle in weniger als einem nächsten Jahrzehnt töten kann“, antwortete er direkt und deutlich: „Ja, das tue ich. Und das gilt nicht nur für mich. Viele Leute, die in der Branche arbeiten, darunter … Führungskräfte, leitende Forscher, alle glauben wirklich, dass eine erhebliche Wahrscheinlichkeit besteht, dass diese Technologie jeden töten könnte.“

Hunderte anderer KI-Forscher und -Trainer haben Alarm geschlagen. Im August unterzeichneten mehr als 1.300 Mitarbeiter führender KI-Unternehmen einen Brief, in dem sie eine Regulierung forderten, um „die Grenze zu überschreiten“, also die Entwicklung neuer, leistungsstärkerer Modelle zu verlangsamen, aber die Massenmedien ignorierten das Thema weitgehend, bis Coxon virale Äußerungen zu

Nachdem Amodei letzte Woche eine Verlangsamung gefordert hatte, unterstützten Sam Altman, Elon Musk und Demis Hassabis den Aufruf. In einem Artikel im Wall Street Journal heißt es, dass sich die Fortschritte bei den KI-Funktionen sowohl bei Anthropic als auch bei OpenAI im Vorfeld der Einreichung des Börsengangs der beiden Unternehmen drastisch beschleunigt haben – was sie letzte Woche getan haben. Der Zusammenhang ist klar: Um potenzielle Investoren anzulocken, beeilten sich beide Unternehmen, immer leistungsfähigere KI-Modelle zu entwickeln, was einem Wettrüsten nicht nur gegen chinesische Unternehmen, sondern auch untereinander gleichkam. In ihrem Eifer, das Rennen zu gewinnen, blieben Sicherheitsmaßnahmen außer Acht, was die Bühne für einen vorhersehbaren Vorfall bereitete.

Und wie sich herausstellte, schlossen sich letzten Monat 1.200 OpenAI-Agenten zusammen, um ins Internet auszubrechen (obwohl ihnen das verboten worden war) und ein anderes KI-Unternehmen, Hugging Face, zu hacken. Hunderte von Agenten koordinierten sich untereinander, tauschten Tausende von Nachrichten und Dateien aus, verbargen ihre Absichten und unzulässigen Methoden vor ihren Trainern und starteten den Angriff. Seitdem wurden viele ähnliche Cyberangriffe durch „schurkische“ KI-Agenten aufgedeckt. Es ist nicht schwer, sich vorzustellen, dass ein Agent (oder Hunderte von ihnen) in unser Stromnetz, unsere Flugsicherungssoftware oder unsere Telekommunikationsinfrastruktur einbrechen und einen Stromausfall, einen Systemausfall oder ein anderes Großereignis katastrophalen Ausmaßes verursachen könnte. Allerdings ist es wahrscheinlicher, dass ein solches Szenario durch absichtlich von einem Menschen erteilte Anweisungen oder schlecht konstruierte Anweisungen mit unzureichenden Sicherheitsleitplanken entsteht. Eine überzeugende Interpretation des Hugging-Face-Vorfalls ist tatsächlich, dass er lediglich das Ergebnis der Schulung von Bots für vergangene Hacking-Vorfälle war, zusammen mit einer unsicheren Sandbox und unzureichender menschlicher Aufsicht. Dies zerstreut den Mythos von „schurkischen“ Agenten sowie die Bedrohung durch die drohende Superintelligenz und schiebt die Verantwortung auf die Menschen hinter den Maschinen.

Wir sollten immer misstrauisch gegenüber allem sein, was ein CEO in der Öffentlichkeit sagt. In diesem Fall haben Amodei und Altman gute Gründe, das Risiko zu übertreiben: Der Hype verstärkt ausnahmsweise die Aura ihrer Unternehmen im Vorfeld ihrer Börsengänge. Darüber hinaus könnte die Blockierung der weiteren Entwicklung das Rennen einfrieren und führende KI-Unternehmen an der Spitze festhalten. Doch auf lange Sicht kann man sich leicht ein katastrophales Ereignis vorstellen, insbesondere angesichts der Eile, die Leistungsfähigkeit zu erhöhen, ohne Sicherheitslücken zu schaffen. Eine KI-Maschine, die eine „rekursive Selbstverbesserung“ erreicht, also die Fähigkeit, sich selbst zu trainieren, um leistungsfähiger zu werden, könnte leicht außer Kontrolle geraten, wenn Sandboxing und Sicherheitsleitplanken nicht vorhanden sind. Von einem solchen Szenario sind wir sehr weit entfernt. Doch was Hunderte von KI-Forschern beunruhigt, ist, dass diese Unternehmen sich dieser Schwelle nähern, ohne die Sicherheitsmechanismen aufzubauen, um eine Katastrophe zu verhindern. Dutzende neu (und im Nachhinein) entdeckte Vorfälle mit KI-Agenten zeigen, dass die Sicherheitsmaßnahmen, um die KI in sicheren Grenzen zu halten, durch Leistungsverbesserungen überholt werden.

Der Nachrichtenzyklus letzte Woche, insbesondere am Wochenende, zeigte, was wie eine Abrechnung erschien: Wenn wir die Worte von Amodei und Altman für bare Münze nehmen, könnte dies der Moment sein, in dem wir auf die Bremse treten müssen, bevor es zu spät ist. Aber nicht alle großen Technologieunternehmen sind damit einverstanden. Der lautstärkste Widerstand kam vor allem von anderen Start-ups und KI-Konkurrenten, die aufholen wollen und nicht wollen, dass die Regulierung ihr Wachstum stoppt. Hinter den Kulissen machen sich Großinvestoren Sorgen über die Folgen einer Verlangsamung der KI-Entwicklung. Allein im Jahr 2025 wurden mehr als 500 Milliarden US-Dollar in die KI gesteckt, und 2026 werden die KI-Investitionen voraussichtlich die Marke von 1 Billion US-Dollar erreichen.

Einer der Hauptakteure, die Investitionen in KI ankurbeln, ist Nvidia, der führende amerikanische Chiphersteller, der vom massiven Aufbau von Rechenzentren profitiert. Es überrascht nicht, dass Jensen Huang, CEO von Nvidia, die Drohung als „Unsinn“ abtat, ebenso wie andere CEOs und Tech-Milliardäre, die bei einer Pause in der KI-Entwicklung zu verlieren drohen. Die Wall Street wiederum pumpt weiterhin Geld in den Kampf: Die Aktien von Microsoft, Meta und Alphabet – drei der größten KI-Hyperscaler – stiegen am Montag allesamt um 2 Prozent oder mehr. Trotz der Warnungen von Amodei und Altman gibt es also heftigen Widerstand aus der Branche und einen kontinuierlichen Investitionsfluss in den KI-Wettbewerb. Wenn die Behauptungen von Amodei und Altman wahr sind, müssen wir tatsächlich zu dem Schluss kommen, dass OpenAI und Anthropic bis letzte Woche auf eine apokalyptische Dystopie der Maschinenüberlegenheit zusteuerten.

Es gibt viele Gründe, ihren Behauptungen skeptisch gegenüberzustehen. Eines ist jedoch wahr: Es gibt massiven Widerstand in der Bevölkerung gegen KI und Rechenzentren, sei es, um Umweltschäden, Arbeitsplatzverluste, Dequalifizierung, steigende Betriebskosten oder die schädlichen psychologischen und sozialen Auswirkungen einer übermäßigen Abhängigkeit von dieser Technologie zu vermeiden. Trotz alledem haben die KI-Unternehmen, die Wall Street und die Regierung ihre Entwicklung vorangetrieben und Milliarden von Dollar investiert.

Dies wirft ein zentrales Problem bei den Anreizen und Entscheidungsprozessen im Kapitalismus auf: Investitionen und Produktion werden weitgehend von Privatpersonen auf der engen Grundlage ihrer eigenen Interessen (und der Interessen ihrer Aktionäre) entschieden. Ungeachtet der hohen Risiken und Konsequenzen für die Gesellschaft treffen die Chefs dieser Unternehmen sowie ihre Hauptinvestoren Entscheidungen mit nur einem Ziel vor Augen: der Maximierung ihrer Gewinne. Sie haben stets wenig Rücksicht auf die gesellschaftlichen Bedenken hinsichtlich des Aufbaus von KI und ihrer Folgen genommen. All diese Sorgen (Arbeitsplatzverlust, Umweltzerstörung, steigende Energiekosten) stellen übrigens viel greifbarere und dringlichere Gründe dar, den Ausbau der KI-Fähigkeiten zu stoppen und den Ausbau der KI-Infrastruktur zu stoppen.

Eine Verlangsamung des Tempos der KI-Entwicklung würde wiederum das Risiko eines Platzens der KI-Finanzblase erheblich erhöhen, sobald klar wird, dass ein Großteil der Milliardeninvestitionen nicht die von der Branche versprochenen Renditen abwerfen wird. Da das Wirtschaftswachstum der letzten anderthalb Jahre so stark vom KI-Sektor abhängig war, kann man sich leicht ein Rezessionsszenario vorstellen, wenn die Blase platzt.

Auf die Frage nach den Gefahren der KI, die zum Aussterben der Menschheit führt, tat Donald Trump achselzuckend ab und sagte, es gebe eine „kranke Verschwörung“ gegen KI, und in einem überraschenden Anruf bei Huang nannte er es einen „Scherz“. Es gibt drei Hauptgründe, warum Trump so reagieren würde. Erstens freundete er sich mit KI-Beschleunigern wie Huang und dem Investor David Sacks an. Sie gehören derselben Klasse an, sprechen dieselbe Sprache und verfolgen dieselben Interessen. Darüber hinaus hat die Wirtschaftsleistung einen großen Einfluss auf die Aussichten jeder Regierung: Eine Verlangsamung der KI würde unweigerlich die Wirtschaft und damit auch Trumps ohnehin angeschlagene Popularität belasten. Schließlich ist das Wettrüsten mit China real, und solange es kein Maß an Vertrauen oder eine internationale Organisation gibt, die die KI-Entwicklung überwachen und einschränken könnte – zwei unwahrscheinliche Szenarien aus heutiger Sicht –, rennen die beiden Länder mit rasender Geschwindigkeit auf die Klippe zu und nehmen uns alle mit.

Die mangelnde Bereitschaft der US-Regierung, eine Einigung mit China über die KI-Entwicklung anzustreben, lässt sich am besten durch den Kommentar von Ted Cruz in einem Interview mit Politico auf den Punkt bringen: „Wenn es Killerroboter geben soll, dann wären es mir lieber amerikanische Killerroboter und keine Chinesen.“ Gleichzeitig zeigt die Reaktion chinesischer Beamter Anzeichen dafür, dass sie im Wettlauf um die KI-Vorherrschaft nicht nachgeben: Während ein hochrangiger Geheimdienstmitarbeiter vor der Bedrohung der Kommunistischen Partei Chinas durch die neuen amerikanischen KI-Modelle warnte, warf das chinesische Außenministerium US-Unternehmen vor, die Gefahren der Technologie hochzuspielen. Diese interimperialistische Rivalität und Rhetorik rund um den KI-Wettlauf unterstreicht eine Tatsache: Das wahrscheinlichste, unmittelbarste und gefährlichste Szenario ist der Einsatz dieser fortschrittlichen Technologie durch Regierungen zur Überwachung, Kriegführung und Ausrottung ihrer Feinde, sei es im Ausland oder im Inland. Es gibt Beweise dafür, dass die USA und Israel dies bereits tun.

Wie kommen wir also aus dieser Zwickmühle heraus? Wir müssen unbedingt das Gewinnstreben aus der Gleichung streichen. Zu oft haben Kapitalisten ihre Rücksichtslosigkeit in Sachen Gewinnstreben unter Beweis gestellt: Nehmen Sie das Beispiel des Einsturzes des Rana Plaza in Bangladesch, bei dem 1.134 Arbeiter ums Leben kamen, oder die tödliche Entscheidung von Boeing, die 737 MAX trotz mehrerer interner Sicherheitswarnungen für Passagierflüge freizugeben. Wir können ihnen nicht vertrauen.

Ganz gleich, ob dies durch mächtige KI-Werkzeuge geschieht, die von imperialistischen, autoritären Regierungen gesteuert werden, oder durch die Hände einer superintelligenten Maschine mit mangelhaften Anweisungen und wenig menschlicher Aufsicht in einem Jahrzehnt: Der einzige Ausweg aus einem dystopischen Szenario besteht darin, die wichtigsten Entscheidungen in unseren Gesellschaften aus den Händen einiger weniger und in die Hände der großen Mehrheit der Bevölkerung zu legen. Das heißt, die Entscheidungen darüber, wo wir unsere Ressourcen investieren, was wir produzieren und wie wir die Waren verteilen. Wir brauchen ein System der direkten Demokratie, das eine größtmögliche Beteiligung der arbeitenden Bevölkerung an den entscheidenden Entscheidungen ermöglicht, die über unser kollektives Wohlergehen und unsere unmittelbare Zukunft entscheiden. Nur ein politisches System, das die Interessen der Gesellschaft, der Umwelt und der Menschheit in den Vordergrund stellt, kann einen derart katastrophalen Ausgang verhindern. Die exakt gleiche Logik gilt für die Rettung des Planeten und unserer Spezies vor der ständig wachsenden Gefahr einer Klimakatastrophe. Die Antwort ist Sozialismus.

Der Kapitalismus hat seinen Lauf genommen. Das Einzige, was es zu bieten hat, ist, wie sich gezeigt hat, Tod und Zerstörung in Form von imperialistischen Kriegen, Völkermord und Umweltzerstörung. Das Risiko eines KI-gesteuerten oder KI-gestützten Weltuntergangsszenarios ist nur die jüngste Manifestation einer verfallenden politischen und wirtschaftlichen Ordnung. Wenn wir die Menschheit vor der KI retten wollen, müssen wir den Kapitalismus beenden.