Über Jacob Coxons Rücktritt, KI und das Aussterben der Menschheit

Da das „Ende der Geschichte“ nicht geklappt hat und das „Ende der Arbeit“ – zumindest vorerst – auch nicht geklappt hat, haben wir jetzt das „Ende der Menschheit“. 

Erlauben Sie mir, skeptisch zu sein. Ich habe das Gefühl, dass die größte Gefahr nicht von der KI selbst ausgeht, sondern von der groß angelegten kapitalistischen Implementierung von KI in Kombination mit anderen Technologien – und ihren vielen sozialen, politischen und wirtschaftlichen Folgen. Diese Umsetzung würde, wenn sie vollständig umgesetzt würde, sowohl eine katastrophale Niederlage als auch eine geopolitische Neuausrichtung in einem Ausmaß nach sich ziehen, das zumindest mit dem des Neoliberalismus vergleichbar wäre. Genau wie damals sind dies Prozesse, die sich in gewisser Weise stufenweise entfalten, und zwar durch das bestehende Niveau der technologischen Anwendung, Kriege und unkontrollierte Investitionen und Schulden in begrenzten Sektoren wie der KI in den USA und ihren möglichen Auswirkungen.

Das soll nicht heißen, dass die Entwicklung von KI und algorithmischen Agenten an sich keine Risiken birgt, die meiner Meinung nach und vorerst kaum eine vergleichbare Gefahr wie beispielsweise die Atomenergie und die Möglichkeit der völligen Zerstörung des Planeten darstellen dürften. Die Frage nach der „vollständigen Autonomie“ der KI lässt sich theoretisch nie ausschließen, sie bleibt jedoch im Bereich der reinen Spekulation, und nichts dergleichen existiert heute. Nicht einmal die künstliche allgemeine Intelligenz – auf die die „Magnificent Seven“ aufgrund der Skalierungslogik setzen – ist Realität. Bis dahin ist es noch Zukunftsmusik, und es bestehen sogar Zweifel, ob dies jemals erreicht werden kann, ganz zu schweigen von der Superintelligenz, die echte Maschinenautonomie darstellen würde und von vielen Fachleuten und Wissenschaftlern als eine Art Wahnvorstellung angesehen wird.

In diesem Zusammenhang lohnt es sich, einige Punkte hervorzuheben.

1) Diese gesamte Diskussion über die katastrophalen Risiken der KI erinnert wieder einmal an das berühmte Zitat von Fredric Jameson, dass es einfacher sei, sich das Ende der Welt vorzustellen als das Ende des Kapitalismus. Wenn wir ein wenig zurückblicken, tauchen dystopische Prophezeiungen immer wieder auf und gehen im Allgemeinen auf einen gültigen Punkt zurück, etwa auf den ökologischen Zusammenbruch. Aber während wir uns alle mit diesen Prophezeiungen amüsieren – und in Angst und Schrecken versetzen –, ist es der Wahnsinn der Wirtschaftslogik des Kapitals, der immer pathologischer wird, was eine zunehmend dystopische Welt schafft. Dies ist eine Logik, die offenbar nur wenige zu fürchten scheint.

2) Es gibt eine außer Kontrolle geratene Kampagne der Unternehmen selbst – neun der zehn wertvollsten Unternehmen der Welt sind Technologiefirmen mit Sitz in den USA – sowie ihrer Ingenieure und CEOs, die entweder bei diesen Unternehmen bleiben oder zurücktreten und oft zu einem anderen Unternehmen wechseln, mit der Warnung, dass das von ihnen verkaufte Produkt äußerst gefährlich sei … was seltsam ist. Viele durchaus glaubwürdige Stimmen halten dies für eine echte historische „Singularität“. 

Dabei handelt es sich um eine Angstkampagne, die offenbar mit der Anhäufung von Macht zusammenhängt: Kein Unternehmen und keine Regierung möchte von etwas potenziell so Riskantem ausgeschlossen werden, auch wenn es keine nennenswerten Gewinne erwirtschaftet. Teil der Kampagne ist die Idee, dass China das Rennen gewinnen wird, wenn es nicht weiterhin Billionen in die Skalierung investiert – das heißt in den Bau weiterer Rechenzentren mit modernsten KI-Chips, Geräten und einem rasanten Energie- und Wasserverbrauch, ganz zu schweigen von der Umweltverschmutzung. 

All dies treibt die Aktienkurse in die Höhe und ermöglicht es ihnen, außergewöhnliche Gewinne zu erzielen. Eine recht angesehene US-amerikanische Non-Profit-Organisation behauptet bereits seit mehreren Monaten, dass diese Unternehmensrhetorik, „China zu schlagen“, den Grundstein für ein Rettungspaket für den Fall legt, dass die Investitionsblase platzt, und dass die Regierung bereits Rettungsmechanismen entwickelt. 

Es besteht eine sehr große Diskrepanz zwischen den Investitionen in KI und andere fortschrittliche Technologien in den USA und im Rest der Wirtschaft (das Investitionswachstum im Jahresvergleich ist in Low-Tech-Sektoren negativ), was zwei Risiken birgt. 

Einerseits besteht die Möglichkeit, dass die Investitionsblase platzt (KI selbst ist natürlich keine Blase, aber um sie herum könnte sich eine große Finanzblase bilden). Auf der anderen Seite besteht die Gefahr einer Verdrängung, d. h. dass KI am Ende den Rest der Wirtschaft verschlingt, die nicht mehr in Schwung kommt, und eine weit verbreitete Stagnation verursacht. Natürlich ist es unmöglich zu wissen, was passieren wird, aber wenn das Kapital inmitten solcher strukturellen Unterschiede so viel Geld bewegt, ist das Risiko hoch und die Rhetorik unzuverlässig.

3) Technologieführer haben bereits Utopien und Dystopien aller Art versprochen: das Ende der Geschichte und der Arbeit, wie es in den 1990er Jahren prognostiziert wurde; das universelle Heilmittel für alle Krankheiten, wenn 90 Prozent des menschlichen Genoms sequenziert wurden (diese Hoffnungen scheiterten zusammen mit der Dotcom-Blase im Jahr 2001); Stammzellen, die alles heilen sollten; Roboter, die alle Arbeitsplätze ersetzen würden (das zweite Versprechen vom Ende der Arbeit); Kryptowährungen, die die gesamte Wirtschaft dominieren würden; das „Metaversum“, in dem wir eigentlich schon seit mehreren Jahren leben sollten, und so weiter.

4) Während Unternehmen Massenangst vor mangelnder Kontrolle über ihre eigenen Produkte verbreiten, die sie grenzenlos weiterentwickeln, ist die unmittelbarere Realität die Kontrolle, die sie durch den groß angelegten Einsatz von KI über Arbeitnehmer und die Bevölkerung insgesamt erlangen: im Alltag; im Handel, wo KI dabei helfen kann, Produkte, die durch geplante Obsoleszenz veraltet sind, durch den Verkauf jeglicher Art von Schrott zu verschieben; und im Finanzwesen durch unzählige Anwendungen, die alle in Schulden stürzen. Das bislang dramatischste konkrete Beispiel für „Kontrollverlust“ war der Angriff auf die Mädchenschule im Iran, an dem möglicherweise die KI-Software Claude von Anthropic beteiligt war; Allerdings ist diese Art von „tödlichem Fehler“ in der Militärgeschichte nicht neu und wurde bereits früher mithilfe natürlicher Intelligenz ausgeführt.

5) Abschließend zum Thema KI-Regulierung: Ich glaube grundsätzlich nicht, dass man jede Idee einer Regulierung, die an sich weder als progressiv noch als regressiv definiert werden kann, pauschal unterstützen oder ablehnen kann. Tatsächlich wird die globale Debatte als „Regierungsregulierung“ – ja oder nein – anthropisch gegen Palantir, der Papst (Enzyklika Magnifica Humanitas) gegen ungezügelten (Neo-)Liberalismus oder die Vereinigten Staaten gegen die Europäische Union formuliert. 

Und wie immer besteht das Problem darin, dass der Inhalt staatlicher Regulierung vertretbare Aspekte mit äußerst reaktionären vermischt. Regulierung ist nicht neutral und die Bereiche, in denen sie angewendet werden könnte, sind praktisch endlos. Progressive Themen wie die Gewährung einer gewissen Kontrolle über Algorithmen durch Nutzer (ein Projekt in Australien) werden beispielsweise mit dem Verbot oder der Einschränkung des Zugriffs auf soziale Medien für Minderjährige unter 16 Jahren in vielen Ländern vermischt – eine Maßnahme, mit der ich persönlich grundsätzlich nicht einverstanden bin, zumal sie auch die Überwachung der Eltern, also fast aller Menschen, verstärkt. 

Ein weiteres wichtiges Thema ist die Grenze zwischen reaktionärem Transhumanismus und Transgender-Interventionen oder die Möglichkeit, körperliche Einschränkungen zu überwinden – ein Thema, das beispielsweise Facundo Nahuel Martín in seinem Buch Ilustración sensible sehr gut anspricht. Dies sind nur einige Beispiele, aber es lohnt sich, sie im Hinterkopf zu behalten. 

In diesem hochkomplexen Kontext neige ich dazu, jeden legitimen Prozess zu unterstützen – wie zum Beispiel den öffentlichen Aufschrei in New York gegen Rechenzentren, die Bürgermeister Zohran Mamdani zeitweise verbieten musste. Und ganz allgemein unterstütze ich die Idee äußerst fortschrittlicher Vorschriften – wie etwa die Ablehnung biometrischer Kontrollen innerhalb und außerhalb des Arbeitsplatzes oder die Ablehnung betrügerischer Finanz-Apps –, die mit den Diskussionen, Entscheidungen und der Aufsicht über die vielfältigen und zahlreichen Arbeitnehmergruppen und die Bevölkerungsmehrheit verknüpft sind. 

Diese Unterstützung und Solidarität muss immer mit einer scharfen Kritik des Privateigentums verbunden sein, um seine Legitimität in Frage zu stellen. Obwohl es bedeutenden Volksbewegungen gelingt, bestimmte Grenzen zu setzen, ist eine umfassende und fortschrittliche Regulierung undenkbar, ohne die Nutzung von Technologien in Frage zu stellen, die offensichtlich eng mit den Zielen derjenigen verbunden sind, die sie besitzen. Innerhalb dieser Spannung steht das Kräfteverhältnis auf dem Spiel. 

Die Frage ist also, inwieweit das Kapital in der Lage ist, durch die groß angelegte Anwendung nicht nur von KI, sondern auch von qualitativ verbesserter KI in Verbindung mit qualitativ verbesserter Robotik und anderen Technologien wie Biotechnologie und Nanotechnologie voranzukommen, um die Wirtschaft und das Leben zu verändern. Gleichzeitig geht es um die Frage, inwieweit die Arbeiterklasse und die Bevölkerungsschichten in der Lage sind, voranzukommen, indem sie genau diese Ziele in Frage stellen – und damit auch den Besitz dieser Technologien.

Angesichts dieser Spannung schlage ich im letzten Kapitel meines Buches „Las nuevas tecnologías en los límites del Capital“ die Idee der technologischen Hegemonie vor. Diese Idee erweist sich als Kritik an der derzeit bestehenden kapitalistischen Hegemonie und als Streitgebiet im Zusammenhang mit den „allgemeinen Zwecken“ von Technologien, im Gegensatz zum Projekt des universellen Grundeinkommens, das ich als antihegemonial betrachte. 

Ich schlage den Aufbau einer technologischen Hegemonie als Notwendigkeit vor, um zu einer qualitativ anderen Verteilung der Arbeitszeit zu gelangen, die gleichzeitig die Freizeit vergrößert und den Nutzen der Arbeit, der produzierten Güter und Dienstleistungen sowie der Natur selbst in den Vordergrund stellt. Ich präsentiere diese Idee als ein noch in der Entwicklung befindliches Konzept, beteilige mich an einer Diskussion über die „Ethik der Arbeit“ und priorisiere die Bereiche, die meiner Meinung nach für das Nachdenken über die Entwicklung von entscheidender Bedeutung sind.

Ursprünglich auf Spanisch am 15. September in La Izquierda Diario veröffentlicht