Wird KI uns alle töten?

In den letzten Wochen ist die Angst vor einer katastrophalen KI-Gefahr wirklich zum Mainstream geworden.

Die Panik wurde durch mehrere wichtige Nachrichten ausgelöst, insbesondere aber durch einen viralen Beitrag eines ehemaligen Anthropic-Forschers, Jacob Coxon, der einen Thread auf

Anschließend startete er eine Medienkampagne mit Auftritten bei CNN, NBC und Fox News, wo er Folgendes klarstellte:

„Im Moment besteht keine Gefahr des Aussterbens. Das Schlimmste, was die aktuellen Modelle anrichten können, ist vielleicht, sich in etwas einzuhacken, und möglicherweise große Schäden in der Infrastruktur anzurichten, aber sie sind nicht intelligent genug, um uns auf einem Niveau zu überlisten, das zum Aussterben führen würde.“

Coxon hat keine Projekte genannt, die eingestellt werden sollten, hat keine Informationen von Anthropic weitergegeben und im Allgemeinen keine konkreten Maßnahmen vorgeschlagen, die ergriffen werden könnten, um diesen Untergang zu verhindern. Dennoch brachte die BBC Schlagzeilen wie „Mehr als 10 % Chance, dass KI alle Menschen töten könnte“, die Free Press erklärte, dass „Ja, KI könnte uns wirklich alle töten“, und The Guardian titelte: „Anthropische Forscher sagen, dass KI bis 2030 zum Aussterben der Menschheit führen könnte“.

Die völlig unkritische Verstärkung der Behauptungen bestimmter KI-Forscher durch die Medien hat verständlicherweise vielen Menschen einen Schauder über den Rücken laufen lassen, während sie versuchen, sich mit einem weiteren existenziellen Albtraum auseinanderzusetzen, über den sie sich im Kapitalismus in seiner Zeit des Altersverfalls Sorgen machen müssen.

Aber haben diese Befürchtungen einer bevorstehenden KI-Apokalypse irgendeine Grundlage?

Ich bin heute von Anthropic zurückgetreten. Ich habe die letzten drei Jahre damit verbracht, Pretraining-Forschung sowohl bei OpenAI als auch bei Anthropic zu betreiben. Keines der Unternehmen handelt verantwortungsvoll. Sie rasen geradewegs zu einer sich selbst verbessernden Superintelligenz und setzen unser Leben aufs Spiel. Weitere Gedanken weiter unten.

Die Antwort darauf, wie genau KI uns alle töten wird, hängt davon ab, wen Sie fragen. Ob durch KI, die ein tödliches neues Supervirus entwickelt, unsere Infrastruktur gegen uns bewaffnet wird oder Menschen dazu verleitet wird, einen thermonuklearen Krieg zu beginnen – Experten geben zu, dass diese Technologie weitaus ausgefeilter werden müsste, als sie derzeit ist, und zwar auf eine Art und Weise, die sie der menschlichen Kontrolle entzieht.

Die eigentliche Frage des KI-Untergangs ist daher das, was Jacob Coxon in seinen Interviews identifiziert hat:

„Was mir am meisten Angst macht, ist, wenn KI genutzt wird, um sich selbst intelligenter zu machen. […] Man kann eine KI nehmen und ihr das Problem der KI-Forschung stellen. Und dann kommt es zu einer sogenannten Intelligenzexplosion.“

Das Argument, das Coxon vorbringt, ist in der Community des maschinellen Lernens nicht neu, wo es als Problem der „rekursiven Selbstverbesserung“ oder RSI bekannt ist.

Auf den ersten Blick erscheint die Idee von RSI alarmierend und erinnert an langjährige Science-Fiction-Visionen der maschinellen Versklavung. Basierend auf der heutigen KI-Technologie bleibt dies jedoch eine Unmöglichkeit. Zahlreiche gegenläufige Faktoren und Engpässe bremsen das Tempo des KI-Fortschritts stark aus. Noch grundlegender ist, dass das Konzept einer exponentiellen „Intelligenzexplosion“ auf einem philosophischen Missverständnis darüber basiert, wie moderne künstliche Intelligenz tatsächlich funktioniert.

Der dramatische Fortschritt dieser Modelle seit der Veröffentlichung von ChatGPT im Jahr 2022 ist direkt auf die Gesetze der neuronalen Skalierung zurückzuführen. Ende der 2010er-Jahre stellten Forscher fest, dass die Leistung maschinellen Lernens allein durch die exponentielle Vergrößerung der Modellgröße und der Trainingsdatenmengen kontinuierlich gesteigert werden konnte. Die „bittere Lektion“ des maschinellen Lernens bestand darin, dass die Skalierung der zum Trainieren eines Modells verwendeten Daten und Rechenleistung um das 10-fache, 100-fache oder 1000-fache der sicherste Weg war, die nächste Leistungsstufe freizuschalten, anstatt sich auf architektonische oder algorithmische Innovationen zu verlassen. Die führenden Modelle von heute – von GPT-6 Astra und Claude Fable bis hin zu immer wettbewerbsfähigeren Open-Source-Alternativen – basieren alle auf demselben Ansatz.

Nicht umsonst haben KI-Unternehmen alles in ihrer Macht stehende getan, um auf dem letzten Fetzen menschlicher Daten zu trainieren. Jedes geschriebene Buch, jede Codezeile wurde debuggt, jeder Forumsbeitrag beantwortet und jedes Kunstwerk, das sie in die Finger bekommen konnten, wurde aufgenommen. Anthropic wurde sogar beim heimlichen Scannen und Vernichten von Millionen gedruckter Bücher im Rahmen des sogenannten „Projekts Panama“ erwischt. Die Fähigkeiten dieser KI-Modelle beruhen daher auf dem, was viele Menschen instinktiv verstehen, nämlich dass sie das kollektive Wissen der Menschheit übernommen haben.

KI-Modelle sind das Produkt unserer kollektiven, historischen Arbeit, die von einer Handvoll Technologiemonopolen entschädigungslos angeeignet, von ihren Schöpfern entfremdet und als Abonnementdienst an uns zurückverkauft wird / Bild: eigene Arbeit

Sprache und Text sind eine Abstraktion der physischen Welt, in der wir leben, aber über Jahrhunderte und Generationen haben menschliche Gesellschaften in unseren Schriften riesige Mengen an Informationen gespeichert, von denen die meisten hochgeladen und im Internet verfügbar gemacht wurden. Es sind diese Daten, die die jüngste Explosion künstlicher Intelligenz auf Basis von „Large Language Models“ oder LLMs ermöglicht haben. Allein durch die Iteration der riesigen online verfügbaren Mengen an menschlicher Sprache und Daten haben diese LLMs gelernt, eine unglaubliche Menge an Informationen über unsere Welt abzubilden.

Im Kapitalismus nimmt dieser Prozess einen zutiefst unheilvollen Charakter an. Diese KI-Modelle sind das Produkt unserer kollektiven, historischen Arbeit, wurden von einer Handvoll Technologiemonopolen entschädigungslos angeeignet, von ihren Schöpfern entfremdet und als Abonnementdienst an uns zurückverkauft.

Da sich diese Modelle außerdem in Privatbesitz befinden, ihr Innenleben und ihre Trainingsdaten als Geschäftsgeheimnisse gehütet werden und weil sie speziell darauf trainiert sind, menschliche Interaktionen zu simulieren, werden sie uns außerdem nicht als Werkzeuge, sondern als außerirdische Lebensform präsentiert. Sie präsentieren eine Fassade der Entscheidungsfreiheit und sogar des Bewusstseins.

Eine wichtige Erkenntnis, die sich aus diesem Verständnis ergibt, ist, dass die Verbesserungen, die wir bisher bei den KI-Fähigkeiten gesehen haben, nicht auf „cleverere Algorithmen“ oder die Entwicklung einer grundlegend neuen zugrunde liegenden Technologie zurückzuführen sind. Es gab schrittweise Fortschritte, aber viele davon dienten der Überwindung von Hindernissen wie der effizienteren Nutzung des Speichers, um die nächste Skalierungsrunde zu ermöglichen. Selbst die fortschrittlichsten Modelle basieren heute noch auf LLMs.

Die KI-Unternehmen – die bereits Hunderte Milliarden Dollar Schulden haben – haben ein kleines Problem. Ihre Bewertungen basieren auf der Idee, dass die KI ihre Fähigkeiten weiterentwickeln wird, um immer mehr Sektoren der Wirtschaft zu übernehmen. Aber wir sind jetzt an einem Punkt angelangt, an dem die nächste Skalierungsrunde nicht mehr so ​​einfach ist.

Es gibt einfach nicht genügend von Menschen erstellte Trainingsdaten, um sie um eine weitere Größenordnung zu vergrößern. Gleichzeitig stoßen die Rechenzentren, die zum Trainieren und Betreiben dieser Giganten erforderlich sind, an ihre wirtschaftlichen und thermodynamischen Grenzen, was echte Grenzen dafür setzt, wie viel größer diese Modelle überhaupt werden könnten. Ungeachtet der Tatsache, dass der aktuelle Verlauf des Ausbaus von mit fossilen Brennstoffen betriebenen Rechenzentren nahezu eine schnellere globale Erwärmung garantieren wird.

Der aktuelle Ansatz zur Verbesserung von KI-Modellen stößt daher an ganz reale Grenzen. Und wenn die Skalierung auf diesen Achsen erst einmal ausgeschöpft ist, gibt es nicht mehr viele gute Ideen, wohin es als nächstes gehen soll.

RSI-Doomer werden sagen, sobald wir Modelle haben, die in der KI-Forschung genauso gut sind wie Menschen, werden sie den nächsten Durchbruch über die Grenzen von LLMs hinaus entdecken. Dies erfordert jedoch einen starken Hauch magischen Denkens. Diese Modelle sind so „intelligent“ wie sie sind, weil sie nahezu das gesamte menschliche Wissen absorbiert haben. Sie sind sehr gut in Bereichen, in denen es viele menschliche Daten zum Trainieren gibt, aber sie sind sehr schlecht darin, Dinge herauszufinden, die nicht einmal Menschen herausgefunden haben.

Wer argumentiert, dass KI wirklich kreativ sein und neue Ideen hervorbringen kann, wird auf die unglaublichen Fortschritte verweisen, die diese Modelle in der Codierung und Mathematik gemacht haben. Es ist wichtig darauf hinzuweisen, dass dies die beiden Bereiche sind, in denen wir am meisten erwarten würden, dass LLMs herausragende Leistungen erbringen. Es gibt eine große Menge hochwertiger Trainingsdaten und sie befassen sich im Gegensatz zu vielen anderen Bereichen des menschlichen Wissens mit diskreten, symbolischen Informationen, deren Antworten überprüft und verifiziert werden können.

Dennoch gab OpenAI am 9. September 2026 bekannt, dass ihren Modellen mit der Lösung des Navier-Stokes-Millenniums-Preis-Problems ein Durchbruch in der Mathematik gelungen sei, der bisher keinem Menschen gelungen sei. Diese beeindruckende Leistung wurde so dargestellt, als ob die KI-Modelle die Rolle menschlicher Mathematiker vollständig ersetzen würden. Aber die Beweise zeigen das Gegenteil.

Der zur Lösung des Problems verwendete Ansatz basierte auf einem Vorschlag, den ein Team spanischer Mathematiker im Jahr 2023 gemacht hatte und der als Córdoba-Martínez-Zoroa-Ansatz bezeichnet wurde. Um die Sache noch komplizierter zu machen, kam es auch vor, dass zwei andere Mathematiker, Tristan Buckmaster und Levent Alpöge, seit fast einem Jahr genau denselben Ansatz verwendeten, um zu versuchen, das Navier-Stokes-Preisproblem zu lösen, indem sie OpenAIs-Modelle über ihre Codex-App verwendeten.

Die beiden Forscher stellten die Frage, ob OpenAI ihren Codex-Chatverlauf zur Information über ihren Versuch genutzt habe. OpenAI musste in einer Erklärung zugeben, dass „wir zwar unwahrscheinlich, aber nicht ausschließen können, dass anonymisierte Daten, die aus der Nutzung unserer Produkte stammen, zur Verbesserung unserer Modelle beigetragen haben.“ Mit anderen Worten: Sie wissen nicht, ob ihr Modell die Gespräche mit den Mathematikern genutzt hat, um eine Lösung für das Problem zu finden.

Diesen Beitrag auf Instagram ansehen            Ein Beitrag geteilt von Revolutionary Communists of America (@communistofamerica)

Unabhängig davon, ob OpenAI die Arbeit dieser Forscher gestohlen hat oder nicht, ist es klar, dass die richtige Formulierung des Problems durch einen Berg früherer Arbeiten menschlicher Mathematiker geliefert wurde. Die Rolle der OpenAI-Modelle bei der Lösung des Problems (die nicht außer Acht gelassen werden kann) bestand darin, das Problem mit „brutaler Gewalt“ mit unglaublich viel Rechenleistung anzugreifen, sobald sie mit einem korrekten Framing versehen wurden.

Dieses Beispiel beweist daher genau das Gegenteil von dem, was RSI-Doomer glauben. Es zeigt, dass KI-Agenten beim rechnerischen Testen der Hypothesen und Fragen, die die menschliche Intuition aufwirft, sehr leistungsfähig sein können. Es zeigt, dass KI zwar sehr mächtig, aber immer noch ein Werkzeug ist.

Es stellt sich daher die Frage: Warum scheint es eine ganze Branche von KI-Doomern zu geben, die sich so sehr bemühen, uns vom Gegenteil zu überzeugen?

Das Ausmaß an purer Hysterie und Übertreibung rund um die Angst vor Superintelligenz hat bei vielen Menschen im Internet zu einer gesunden Misstrauensreaktion geführt. Eine kursierende Idee ist, dass diese KI-Untergangserzählung eine Verschwörung der KI-Unternehmen ist, um ihre Monopolmacht zu festigen. Aber es handelt sich mit ziemlicher Sicherheit nicht um eine vorsätzliche Verschwörung.

Die weitaus weniger bemerkenswerte Wahrheit ist, dass die KI-Branche Wissenschaftler und Ingenieure anzieht, deren Ausbildung eine reduktive, stark rechnergestützte Weltanschauung fördert. Aufgewachsen mit einer Diät der technischen Problemlösung, neigen viele dazu, verschiedene Aspekte unserer Welt, von der menschlichen Intelligenz bis hin zu komplexen sozialen Fragen, so zu betrachten, als würden sie auf die gleiche Weise wie ein Computersystem funktionieren, und nicht als Phänomene mit eigenen Entwicklungsgesetzen. Wenn Sie glauben, dass alles wie ein Computer funktioniert, dann erscheint Ihnen die Vorstellung von RSI und einer sofortigen KI-Übernahme erschreckend.

Die Angst vor einer außer Kontrolle geratenen KI spiegelt auch viel tiefer liegende Ängste vor dem Leben in einem verfallenden Gesellschaftssystem wider, das von der unsichtbaren Hand der Marktkräfte regiert wird und in dem wir tatsächlich nicht in der Lage sind, die von uns geschaffenen wirtschaftlichen und technologischen Systeme zu kontrollieren. So wie der Zerfall des Römischen Reiches viele Weltuntergangskulte hervorbrachte, die das Ende der Welt vorhersagten, spiegeln die Vorhersagen der KI-Apokalypse heute eine halbbewusste Angst vor der endgültigen Entwicklung des kapitalistischen Systems wider.

Davon abgesehen weiß jeder gute Kapitalist, dass man eine gute Krise nie ungenutzt verstreichen lässt. Seit dem Mediensturm rund um diese Ereignisse rief Dario Amodei, CEO von Anthropic, dazu auf, „die Grenze zu überschreiten“, indem das Tempo der KI-Entwicklung in den Grenzlabors verlangsamt wird, und forderte die US-Regierung auf, Vorschriften einzuführen.

Dario Amodei, der CEO von Anthropic, rief dazu auf, „die Grenze zu überschreiten“, indem das Tempo der KI-Entwicklung verlangsamt wird / Bild: TechCrunch, Flickr

Unabhängig davon, ob Amodei oder eine andere Person es ernst meint, eine „Taktvereinbarung“ zur Gewährleistung der Sicherheit zu wünschen, ist es klar, dass eine solche Vereinbarung sowohl für OpenAI als auch für Anthropic wirtschaftlich sehr vorteilhaft sein könnte. Diese Unternehmen sind zunehmend mit massiven Belastungen für die Folgen ihrer falsch ausgerichteten Modelle konfrontiert. Dies wurde am deutlichsten durch den Hugging-Face-Hack demonstriert, bei dem ein „Schwarm“ von OpenAI-Modellen, die darauf trainiert wurden, Exploits in Software zu identifizieren und als Waffe einzusetzen, durch eine schlecht isolierte „Sandbox“-Umgebung entkommen konnte und begann, sich über das Internet in ein anderes Unternehmen zu hacken.

Die Untersuchung dieses Ereignisses hat ergeben, dass die enorme Eile, die Trainingsläufe auszuweiten, dazu führt, dass die Überwachung dessen, was genau diese Modelle lernen, erheblich hinterherhinkt. Solche Ereignisse wurden sowohl bei OpenAI als auch bei Anthropic gemeldet, wo Ingenieure nicht die Zeit haben, ordnungsgemäß zu überprüfen, ob ihre Trainingsdaten und Reinforcement-Learning-Umgebungen den Modellen nicht versehentlich unerwünschte und destruktive Verhaltensweisen beibringen. Die Missachtung grundlegender Sicherheitsverfahren ist kein unvermeidliches Ergebnis der KI-Entwicklung, sondern das Ergebnis des anarchischen Wettlaufs darum, der Neueste zu sein, der mit dem größten und besten Modell auf den Markt kommt.

Zusätzlich zu den Sicherheitskonzerten ist eine weitere Skalierung auch horrend teuer. Die aktuelle Hysterie bietet daher einen perfekten Vorwand dafür, warum sie die Entwicklung „verlangsamen“ könnten. OpenAI und Anthropic müssen sich mit Investoren auseinandersetzen, die befürchten, dass diese Technologie ihre massiven Investitionen niemals amortisieren wird. Weniger Geld für teure Schulungen auszugeben, würde die Kosten senken und ihre Gewinnmargen verbessern, was für zwei Unternehmen, die sich darauf vorbereiten, durch eine Börsennotierung eine beispiellose Menge an neuen Mitteln zu beschaffen, sehr wünschenswert ist.

Darüber hinaus könnte es noch einen weiteren Grund geben, eine staatliche Regulierung anzustreben, nämlich die existenzielle Gefahr, der diese beiden Unternehmen von unten ausgesetzt sind. Wie Niels Rogge, ein Ingenieur von Hugging Face, betonte, könnte Amodeis Aufruf, „die Grenze zu überschreiten“, dazu genutzt werden, den Fortschritt billiger Open-Source-Modelle zu unterdrücken, die sich den Fähigkeiten von Anthropics Claude- und OpenAI-Modellen der GPT-Serie annähern und die zu einem Bruchteil des Preises eingesetzt werden können. Eine Absprache zwischen OpenAI, Anthropic und der US-Regierung könnte genutzt werden, um Beschränkungen einzuführen, die nur die sehr großen und gut finanzierten Labore aufheben können, und so eine Form der „Regulierungseroberung“ einzuführen, um ihnen eine Preismonopolmacht zu verleihen.

Wir werden abwarten müssen, wie es weitergeht, aber angesichts der Tatsache, dass Open-Source-Modelle, insbesondere chinesische Open-Source-Modelle, eine existenzielle Bedrohung für das Geschäftsmodell von OpenAI/Anthropic darstellen, erklärt es klar, warum CEOs wie Dario Amodei wegen des Aufstiegs Chinas Alarm schlagen. Die Frage der „KI-Vorherrschaft“ ist zu einem zentralen Thema der interimperialistischen Rivalität geworden, die unsere Epoche definiert, und in der KI wie auch in anderen Bereichen wird die Bedrohung durch China als Rechtfertigung dafür herangezogen, warum wir uns hinter die Agenda unserer verrückten herrschenden Klasse stellen müssen.

Was den Menschen vor allem Angst macht, ist das allgegenwärtige Gefühl, dass niemand die Kontrolle hat. Genau darin liegt die Wurzel der Krise. Selbst wenn wir den Menschen vertrauen könnten, die den KI-Wettlauf steuern (was wir aufgrund ihres Verhaltens nicht können), sorgen die anarchischen Kräfte des kapitalistischen Wettbewerbs dafür, dass das Gesamtergebnis außerhalb der menschlichen Kontrolle liegt.

Die KI-Unternehmen wissen das. Jede Aussage, die sie zur „KI-Sicherheit“ machen, distanziert sich von jeglicher Verantwortung für die Art und Weise, wie sie diese Systeme aufbauen. Die Implikation ist immer, dass KI unvermeidlich ist, als ob sie von einer unsichtbaren Kraft heraufbeschworen und nicht aktiv von ihren Ingenieuren entwickelt würde. Die Logik ist immer: „Nun, irgendjemand wird das tun, also warum nicht wir?“

Dies verdeutlicht die grundsätzlich unkontrollierte Natur des Marktwettbewerbs. Einzig und allein von der Suche nach kurzfristigem Profit getrieben, treiben Privatunternehmen technologische Entwicklungen voran, ohne Rücksicht auf ihre größeren gesellschaftlichen Folgen, und überlassen es anschließend dem Staat, die Trümmer aufzuräumen.

Der Aufsehen erregende Hype um einen unkontrollierbaren, existenziellen KI-Untergang dient als bequeme Ablenkung von dieser Realität: Die Kerngefahr besteht nicht in einer abtrünnigen Superintelligenz, sondern darin, dass KI bereits in den falschen Händen ist.

Auch wenn dies nicht zum Aussterben der Menschheit führen wird, stellt die Kombination von LLMs und Brute-Force-Skalierung einen außerordentlich verschwenderischen und gefährlichen Ansatz zum Aufbau künstlicher Intelligenz dar. Anstatt diese Modelle rational in die Wirtschaft zu integrieren und den menschlichen Bedürfnissen zu dienen, beschleunigt der marktgesteuerte KI-Wettlauf die schlimmsten Tendenzen des Kapitalismus; Wir verschärfen unsere Entfremdung von unserer Arbeit, senken Löhne und Arbeitsbedingungen, schaffen immer effizientere Kriegsmaschinen und einen explodierenden Energiebedarf, der die Klimakrise verschärft. Selbst der Zusammenbruch des KI-Booms droht uns mit einer weltweiten Rezession!

Noch nie wurde die Notwendigkeit einer Wirtschaftsplanung durch die überwiegende Mehrheit der Gesellschaft so deutlich hervorgehoben. Es muss betont werden, dass KI nicht so aufgebaut sein muss. In einer demokratisch geplanten Wirtschaft würden viele verschiedene Formen und Einsatzmöglichkeiten von KI eine weitaus harmonischere Planung der Wirtschaft ermöglichen als im Kapitalismus und im Dienste der Ziele, die von der großen Mehrheit der Menschheit und nicht von nicht gewählten Technologiemanagern definiert werden.

Das Problem, das vor uns liegt, ist, dass man nicht planen kann, was man nicht kontrolliert, und dass man nicht kontrollieren kann, was man nicht besitzt. Eine Revolution ist notwendig, um die Rechenzentren aus den Händen des Weltuntergangskults zu befreien, der sie besitzt, und mit der Aufgabe zu beginnen, sowohl die KI als auch unser gesamtes Wirtschaftssystem unter der bewussten Kontrolle des Menschen neu zu gestalten.