KI ist kein Scherz, wie geht es weiter?

Bernie Sanders hat sich kürzlich mit KI-Themen beschäftigt, aber ich habe das Gefühl, dass die meisten Linken den Kritikern der KI skeptisch gegenüberstehen, sich nicht besonders gut mit ihren Funktionen auskennen und insgesamt nicht allzu sehr daran interessiert sind. KI existiert. Wir hören davon. Wir wissen, dass es wichtig ist. Wir sorgen uns um Arbeitsplätze. Wir arbeiten daran, Rechenzentren zu stoppen. Wie wäre es, die KI selbst zu stoppen?

Betrachten Sie ein hypothetisches Gedankenexperiment. Du sitzt in einem Raum. Auf dem Tisch, vor dem Sie stehen, befindet sich ein Kippschalter. Es hat nur drei Positionen. Position eins ist, dass sich die KI so weiterentwickelt, wie sie sich bisher entwickelt hat. Position zwei würde die KI pausieren, bis eine unabhängige Behörde, die Ihren Standards entspricht, einen akzeptablen, umsetzbaren Plan für die Entwicklung, Verbreitung, Regulierung und Nutzung der KI auferlegt. Und Position drei, die einzige andere Wahl, würde die KI-Entwicklung vollständig und für immer zum Erliegen bringen. Sie müssen wählen. Lassen Sie den Schalter unverändert? Betätigen Sie die Taste, um die KI zu pausieren, bis Sie und ein von Ihnen respektiertes Komitee grünes Licht geben? Oder schalten Sie den Knopf aus, um die KI jetzt und für immer abzuschalten? Wo stehen Sie zum Thema KI?

Künstliche Intelligenz ist eine Computertechnologie, die es Maschinen ermöglicht, zu lernen, Probleme zu lösen und menschenähnliche Ergebnisse für eine begrenzte Anzahl von Aufgaben zu erzielen, die Menschen mit unserem Gehirn erledigen. In letzter Zeit ist eine bestimmte Art von KI namens Large Language Models oder LLMs in immer mehr Bereichen einsetzbar. Einen Augenzwinkern später sagen uns Branchenexperten, dass es sich bei der künstlichen allgemeinen Intelligenz (AGI) um eine verbesserte KI handeln wird, die den kognitiven Fähigkeiten des Menschen in praktisch allen menschlichen Bereichen und Aufgaben entspricht oder diese übertrifft. Darüber hinaus versprechen Experten, dass die künstliche Superintelligenz (ASI) eine AGI auf Steroiden sein wird, wenn sie erreicht wird. Es wird alles, was kognitive Menschen können, weitaus besser machen, nicht nur als jeder einzelne Mensch, sondern sogar als alle Menschen, die zusammenarbeiten.

Der bemerkenswerte, aber abscheuliche Elon Musk sagt jetzt, dass er jeden Abend erstaunt über eine neue Innovation zu Bett geht. Er steht jeden Morgen auf, nur um von einer weiteren Innovation zu hören. Und dann folgt ein drittes Mittagessen. Sein Kopf dreht sich. Er kann nicht mithalten. Und wenn wir solche Berichte von vielen KI-Akteuren und CEOs hören, fragen wir uns: Was passiert da? Wohin führt das? Was sollten Linke, denen der Aufbau einer besseren Welt am Herzen liegt, dagegen tun?

Kürzlich habe ich geschrieben, dass „Maschinen bereits Bilder malen, Musik komponieren, Krankheiten diagnostizieren, recherchieren und Rechtsgutachten erstellen. Sie schreiben technische Handbücher, Nachrichtenberichte, Essays, Geschichten und sogar Romane Beratung, Altenpflege, persönliche Betreuung und sogar intime Kommunikation. Sie können einer KI jetzt ein Buch geben, sagen Sie 75.000 Wörter, und was wird es sein? Nächsten Monat, was wird es sein? Geben Sie stundenlang Audio ein und erhalten Sie eine Transkription. Und was vielleicht die größte Konsequenz ist: KIs können jetzt zusammenarbeiten und sich gegenseitig Anweisungen geben.“

Als ich das schrieb, dachte ich, dass viele Leute denken würden, ich übertreibe oder ignoriere zumindest die schlechte Qualität. Aber ich habe nicht übertrieben und die Qualität der KI-Ausgabe war nicht ohne Probleme, aber das war nicht die wichtige Beobachtung, die man machen musste. Entscheidend war vielmehr, dass Kritiker, wenn sie die aktuellen Ergebnisse bemängeln, aber das Tempo des innovativen Wandels ignorieren, in ihren Kommentaren irreführend andeuten, dass KI so gut ist, wie es nur geht. Es geht nicht an AGI und schon gar nicht an ASI. Aber die Kritiker ignorieren normalerweise, dass die KI, die sie kritisieren, um Längen besser war als kurz zuvor und möglicherweise um Längen schlechter war, als sie in Kürze werden würde.

Zweifelhaft an meiner Reaktion, die ich als Übertreibung bezeichne, könnte man sich mit Fug und Recht fragen: Was hat sich in letzter Zeit aufgrund der Geschwindigkeit der Innovationen geändert? Die Antwort ist vielfältig, aber wir sollten uns zunächst mit der Herangehensweise der Unternehmen an die KI befassen, die sie entwickeln. Zumindest soweit wir wussten, bestand die Priorität von Unternehmen wie Google, Anthropic, Open AI und den anderen in der Vergangenheit darin, gierig mehr Käufer anzulocken, und zwar aufgrund neuer Kapazitäten, die im Werberummel dargestellt wurden und darauf abzielten, Marktanteile zu gewinnen und unmittelbare Gewinne – und Investitionen – zu steigern. Die KI-Unternehmen versuchten, Innovationen, die sie hervorbrachten oder in ihren regelmäßig aktualisierten Modellen entdeckten, so schnell wie möglich zu kommerzialisieren. Das ist es, was alle Unternehmen tun.

Es gab jedoch einige frühe Grenzen hinsichtlich Innovationen, oder zumindest schien es solche zu geben. Einige CEOs schienen nicht geneigt zu sein, ihre KIs selbst aufrüsten zu lassen, unabhängig von menschlicher Führung zu agieren, sich gegenseitig Anweisungen zu geben oder ins Internet zu gehen. Interviews schienen darauf hinzudeuten, dass solche Kapazitäten als zu riskant angesehen wurden, um sie zuzulassen. Doch schon bald wurde diese Vorsicht von der Politik missachtet. Es ging nicht nur darum, dass KIs aufgefordert wurden, sich selbst zu verbessern, oder dass sie in die Lage versetzt wurden, Pläne zu schmieden und diese Schritt für Schritt umzusetzen, wobei die Schritte selbst nicht ausdrücklich von einem Menschen angefordert wurden, oder dass sie sich gegenseitig dazu auffordern und sich auch auf das gesamte Internet wagen konnten (selbst wenn sie angewiesen wurden, dies nicht zu tun). Es war, dass sich das Hauptmotiv der Unternehmen änderte.

Die Unternehmensstrategien großer KI-Firmen sind immer noch im Großen und Ganzen die gleichen, aber jetzt besteht ihr Ziel, soweit ich weiß, erstens darin, ihre eigenen Gesamtabläufe zu automatisieren, zweitens darin, die Erstellung neuer Versionen ihrer Angebote zu automatisieren, was bedeutet, dass ihre KIs sich spontan und wiederholt aktualisieren, und drittens darin, maximale Gewinne zu erzielen, indem sie ihren Kunden ASIs anbieten, die zu fast allem fähig sind, sobald ihre KIs zu ASIs werden. Das früher vorherrschende vorrangige Streben nach unmittelbarem Gewinn ist in meinen Augen zweitrangig geworden. Es wird nicht mehr nach neuen Versionen von KI-Modellen gesucht, um unmittelbar Gewinne oder Marktanteile zu erzielen. Stattdessen entstehen sie als Ableger des Hauptziels der Unternehmen, zunächst AGI und dann ASI zu erreichen.

Warum die Änderung? Die CEOs dieser Firmen schauten von ihren Büros aus und sahen alle das gleiche Spielfeld. Etliche Länder, vor allem die USA und China, und einige ihrer größten KI-Unternehmen füllten den Platz aus. Die zugehörigen CEOs kamen zu der Überzeugung, dass AGI bald kommt und dass ASI nicht weit zurückliegen wird. Einen Schritt weiter glaube ich, dass sie zu der Überzeugung gelangten, dass derjenige, der der Chef der Firma ist, die zuerst ASI erreicht, den gesamten KI-Bereich und über diesen gesamten Bereich auch die Welt beherrschen wird. Der Chef jedes Unternehmens begriff dann, dass der siegreiche CEO der große Kahuna der KI und damit ein großer Chef seines Landes und damit der Welt werden würde. Der siegreiche CEO würde ein wahrer Super-Influencer werden. Und jeder CEO wollte den Job persönlich.

Warum? Weil jeder dachte, die anderen würden diese Macht missbrauchen, und jeder dachte: „Ich allein werde gütig sein. Zum Wohle aller muss ich allein das Rennen gewinnen.“ Als ich mir das sagte, kamen die CEOs meiner Meinung nach als Nächstes zu dem Schluss, dass sie es sich nicht leisten können, Zeit mit Nebenthemen wie der Maximierung unmittelbarer Gewinne oder der Verringerung unangenehmer Nebenwirkungen zu verschwenden, wenn sie zuerst zu ASI gelangen und den totalen Sieg bedeuten.

Möglicherweise haben Sie die gleiche Logik in Mediendiskussionen über einen Wettlauf zwischen den USA und China gehört. Wir können nicht langsamer werden, sonst gewinnen sie. Ich glaube, dass die gleiche bekannte Denkweise auch auf Unternehmensebene entstand. Jeder, der der weltweit größte Influencer sein will, muss sich für ASI mit voller Kraft einsetzen, damit nicht jemand anderes zuerst dort ankommt. Ihr Unternehmen muss die erste AGI aufbauen, die in der Lage ist, sich autonom zu verbessern, und muss dann ihre AGI dazu veranlassen, dies immer wieder unermüdlich, schnell und ohne menschliches Eingreifen zu tun, bis sie zur ersten ASI wird. Das wird mich, denkt (ich vermute) die CEOs von Google, Anthropic, Open AI, Meta und wahrscheinlich Deepseek und Alibaba zum König der Welt machen.

Sie fragen sich vielleicht, ob ich den Verstand verloren habe oder ob ich meinen Verstand mit einer seltsamen, wahnhaften Designerdroge verstärkt habe – aber ich mache Ihnen nichts vor. Ich glaube tatsächlich, dass diese amoralischen, wilden, verrückten und tödlichen Oligarchen das denken – mit der Einschränkung, dass der wohlwollende Teil bloße Rationalisierung ist.

Aber glauben die Oligarchen schon bald, dass die KI auch nur annähernd das Ziel erreichen kann, das sie meiner Meinung nach jetzt anstreben? So ziemlich das – wenn wir davon ausgehen, dass die KI bald auf eine finanzielle, ökologische, technische oder vielleicht soziale oder moralische Mauer stößt, die ihr Einhalt gebieten und solche Hoffnungen zunichte machen wird.

Aber wird die KI-Entwicklung tatsächlich auf eine solche Mauer stoßen? Es kann sein. Möglicherweise nicht. Ich weiß es nicht und auch sonst niemand. Aber ich denke, die Möchtegern-Großkahunas glauben, dass, sobald sie eine ASI haben, diese selbst alle Probleme lösen wird, die sie beim Zugang zur ASI verursacht haben, und dass sie auch alle technischen Hindernisse, auf die sie später stoßen, mit Füßen treten werden. Sie glauben meiner Meinung nach auch, dass es kein nennenswertes soziales/moralisches Hindernis geben wird, zumindest nicht bis es zu spät ist, weil der Reiz, Krebs zu heilen und eine imaginäre Utopie endloser Produktivität zu verwirklichen, solche Sorgen auslöschen wird. Schließlich macht der Einsatz von KI im Gegensatz zu Atomwaffen und Biowaffen Spaß. Sie sind individuell hilfreich. und das wird soziale Bedenken verringern. Daher erwartet der siegreiche CEO auch ASI und beträchtliche Unterstützung in der Bevölkerung. Wird das alles passieren? Auch hier gilt: Ich weiß es nicht und ich glaube auch nicht, dass es irgendjemand sonst weiß. Aber soweit ich das beurteilen kann, wetten die CEOs gierig auf das Wohlergehen der Menschheit, das stimmt.

Jetzt können Sie direkt an Ihrem eigenen Schreibtisch eine KI dazu auffordern, Ihnen einen Artikel zu einem bestimmten Thema, vielleicht Inflation oder Zöllen, zu schreiben, der in einem bestimmten Stil verfasst sein sollte, vielleicht humorvoll wie Jon Stewart. Fast sofort erhalten Sie das, wonach Sie gefragt haben. Bei einer der großen Firmen, und vielleicht sogar jetzt an Ihrem Schreibtisch, können Sie Ihre KI auffordern, ein Großprojekt zu planen, und Ihre KI kann das Großprojekt in eine Agenda von Teilaufgaben aufteilen, die sie dann nacheinander ausführen kann, einschließlich der Aufforderung an andere Programme und KIs, bei Bedarf um Hilfe zu bitten. Wenn sich ein Schritt für Ihre Lieblings-KI und ihre Helfer als unmöglich erweist, kann sie sogar einen neuen Ansatz planen und dann ihre Agenda ändern und von vorne fortfahren, bis sie einen Weg zum Erfolg findet und umsetzt. Beachten Sie, dass Ihre KI Unterziele erstellen kann, sobald sie mit dem von Ihnen zugewiesenen großen Projekt beginnt. Es kann andere Als veranlassen. Es können andere Programme verwendet werden. Vor ein paar Jahren glaubte man, dass so etwas noch in zehn, zwanzig oder noch mehr Jahren auf sich warten ließe. Jetzt ist es da oder steht zumindest für einige KIs und einige Benutzer ganz sicher unmittelbar bevor. Die Branche nennt es Agentische KI.

Betrachten Sie ein einfaches Beispiel. Sie teilen einer KI mit, dass Sie eine neue Website für einen Zweck wünschen, den Sie mündlich beschreiben. Sie liefern keinen Code, nicht einmal ein Bild und nicht mehr als eine kurze Beschreibung. Die Agenten-KI benötigt einige Augenblicke, um die Funktionen zu bestimmen, und erstellt dann Schritt für Schritt unglaublich schnell Ihre Website. Sie schauen sich das Produkt an. Du sagst es: „Kein schlechter Kumpel, aber mir gefällt dieser Aspekt nicht und hätte auch gerne noch ein paar andere Features“, die du dann verbal beschreibst. Ihr „Kumpel“ nimmt die gewünschten Änderungen vor, bis Sie zufrieden sind. Oder, einfacher gesagt, in einem anderen Fall könnten Sie Ihren KI-Kumpel anweisen, Ihre eingehenden E-Mails zu lesen und Antworten für Sie zu senden. Konzerne tun das bereits. Und manchmal erfüllen KI-Stellvertreter beide Seiten solcher Gespräche.

Einige Experten sagen uns, dass KI-Nachrichten nur ein Hype seien. Sie sagen uns, KI sei schwach. Sie sagen uns, dass KI fehleranfällig ist. Sie sagen uns, dass KI zu viel kostet. Die Blase steht kurz vor dem Platzen. Einige weisen darauf hin, dass es möglicherweise nicht nur platzt, sondern auch einen großen Teil der Wirtschaft mit sich reißt. Und all das kann passieren. Aber die Experten bemerken nicht, dass die aktuelle Version der KI kaum noch in den Kinderschuhen steckt. Und sie verlangen von uns auch jetzt noch nicht, uns mit dem Säugling zu vergleichen. Wie viele von uns können komplexe Bilder erstellen, Musik komponieren, Berichte lesen und zusammenfassen, Geschichten und sogar Romane schreiben, mathematische Probleme lösen und Code schreiben, besser als die heutigen jungen KIs, geschweige denn diese Dinge in Sekundenschnelle erledigen? Keiner von uns. Und morgen ist noch nicht einmal da.

Macht die aktuelle KI Fehler? Auf jeden Fall, manchmal auch mit Riesenspaß. Andererseits gilt das auch für den Menschen. Und auf jeden Fall kommt es wiederum auf die Flugbahn der KI an, nicht auf ihre aktuellen Fehler. Anekdoten über seltsame Fehler, die einer KI gestern unterlaufen sind, sind normalerweise zutreffend, mäßig amüsant oder manchmal beängstigend. Aber die Einschätzung der voraussichtlichen KI-Fähigkeiten im nächsten Jahr ist eine ganz andere Sache. Sich über die gelegentlichen Fehler von heute lustig zu machen, ist, als würde man über ein gurgelndes Baby lachen. Es ignoriert, dass unser auf Silizium basierendes Baby in wenigen Minuten um Jahre altern kann. Gurgel das.

Ich vermute, dass GPT-2 eine juristische Anwaltsprüfung nicht von einem Besen unterscheiden würde. GPT-3.5 nahm an einer simulierten Anwaltsprüfung teil und schnitt in den unteren 10 Prozent ab, wobei er viele Fehler machte, über die Rechtswissenschaftler wahrscheinlich lachten. Ein Jahr später landete GPT-4 unter den besten 10 Prozent. Und jetzt GPT-5 und 6, geschweige denn 13 – Clarence Darrow aufgepasst.

Vielleicht sollten wir uns also mehr auf die Entwicklung der KI konzentrieren und weniger auf ihre aktuellen Fehler. Vielleicht sollten wir uns nicht auf eine Momentaufnahme eines gurgelnden Moments beschränken. Vielleicht sollten wir nicht außer Acht lassen, dass die Ergebnisse der Anwaltsprüfung der KI nicht mit zufällig ausgewählten Menschen von der Straße verglichen wurden. Sie wurden mit Jura-Absolventen verglichen. Und was wird GPT-6 nächstes Jahr erreichen? Und was passiert mit der Anzahl der Fehler, wenn nur einen Steinwurf entfernt eine KI routinemäßig Ergebnisse an eine zweite zur Auswertung sendet und die erste dann die von der zweiten zurückgemeldeten Fehler korrigiert und erst dann ihre aktualisierten Ergebnisse an den Prüfer liefert? Wird es dann besser abschneiden als 99 Prozent der Jurastudenten oder besser als alle Jurastudenten? Werden alle aktuellen albernen und leicht überprüfbaren Fehler verschwinden?

Aber warte. Ich schrieb: „Clarence Darrow, aufgepasst.“ Das war eine Übertreibung, nicht wahr? Sicherlich gehören wir bei weitem nicht zu den besten menschlichen Praktikern in kognitiven Bereichen, die ihnen nach kommenden KI-Wunderkindern über die Schulter schauen müssen, nicht wahr? Nun, in der höheren Mathematik, die eine durch und durch kognitive Tätigkeit ist, ist die Fields-Medaille die höchste Auszeichnung, die man erreichen kann. Der Preis ist für die Mathematik das, was ein Nobelpreis für Chemie oder Physik ist. Er wird alle vier Jahre verliehen und es gibt nur 47 lebende Fields-Medaillengewinner. In einem kürzlich geführten Interview beschrieb Jacob Tsimerman, ein Praktiker auf Clarence-Darrow-Niveau in seinem eigenen kognitiven Beruf, der Mathematik, und Gewinner der Fields-Medaille 2026, der angesichts der Tatsache, dass KI eine im Wesentlichen mathematische Technologie ist, vermutlich besser als die meisten von uns in der Lage ist, KI und ihre Entwicklung zu verstehen, wie er dachte, dass die Mathematik, wie wir sie kannten, von der KI völlig verdrängt wird – nicht im nächsten Jahrhundert, sondern jetzt, heute. Er erklärte, dass er aufgehört habe, Mathematikstudenten einzustellen, weil er der Meinung sei, dass es für sie in nur wenigen, vielleicht sogar nur zwei oder drei Jahren kein Feld mehr geben werde, in das sie sich bewerben könnten.

Auf die Frage nach seiner persönlichen Zukunft sagt dieser Meistermathematiker, der auf seinem Fachgebiet ganz oben steht und es liebt, dies zu verfolgen. Er erwägt, Stand-up-Comedian zu werden, eine Tätigkeit, die er auch liebt, aber er wird auf jeden Fall sofort seinen Mathematikposten aufgeben, um bei OpenAI an der KI-Sicherheit zu arbeiten.

Sollten wir darüber einfach hinweggehen? Nachdem ich mir ein Tsimerman-Interview angesehen hatte, sah ich mir ein Video eines anderen Kollegen an, Daniel Kokotajlo, eines ehemaligen OpenAI-Governance-Forschers und KI-Prognostikers, der sein Amt niederlegte, nachdem er das Vertrauen verloren hatte, dass OpenAI verantwortungsvoll mit immer leistungsfähigerer KI umgehen würde. Er kündigte, um eine gemeinnützige Organisation zu gründen und zu versuchen, die Zukunft der KI vorherzusehen und dabei zu helfen, vorhersehbare schädliche Auswirkungen zu verhindern. Als Antwort auf seinen Fragesteller war Kokotajlo hinsichtlich des Erfolgs nicht optimistisch. Als er einmal gefragt wurde, was er seinen kleinen Töchtern vorschlagen würde, ein Hauptfach am College zu wählen, um später Karriere zu machen, wurde er etwas langsamer, sah irgendwie krank aus und sagte, er würde ihnen sagen, sie sollen tun, was sie wollen, und überhaupt nicht darüber nachdenken, welchen konkreten Job sie anstreben sollen, weil die Wahrscheinlichkeit groß ist, dass dieser ganz anders sein wird, als sie sich vorstellen, oder dass es ihn wahrscheinlich in ein paar Jahren überhaupt nicht mehr geben wird. Dies ist dieselbe Person, von der ich hörte, wie sie CEO-Strategien auf der Grundlage seiner Interaktionen mit solchen CEOs beschrieb, und die davor warnte, dass wir den Aussagen der CEOs großer Unternehmen zur Sicherheit nicht trauen sollten, geschweige denn ihrem Engagement für den öffentlichen Dienst. Hat sich Kokotajlo getäuscht? Vielleicht, aber für mich klang er sehr vorsichtig und klar. Tatsächlich waren es seine Worte, die diesen Aufsatz provozierten. Vielleicht sollte Tsimerman Kokotajlo konsultieren, bevor er sich bei OpenAI anmeldet.

Als ich zum ersten Mal über KI schrieb, erwähnte ich, dass eine KI bald wahrscheinlich eine Milliarde oder vielleicht sogar zehn Milliarden Parameter haben würde. Ich vermute, dass viele, denen diese Vorhersage überhaupt aufgefallen ist, sie wahrscheinlich für hyperbolisch hielten. Doch nun deuten ein unbestätigter Bericht und auch Kokotajlos Interview darauf hin, dass das noch unveröffentlichte GPT-6 etwa 10 Billionen Parameter haben könnte – das sind 10 Billionen mit einem „t“, was nicht eine Milliarde oder gar 20 Milliarden oder hundert Milliarden, sondern 10.000 Milliarden ist. Ich lag also tatsächlich mit meiner Vorhersage übertrieben daneben, aber ich lag hyperbolisch niedrig und nicht hoch. Okay, was ist also neu an neuen KIs, die nicht mehr an unsere Tür klopfen, sondern bereits über zahlreiche von uns verwendete Programme mit uns kommunizieren?

Das Gesamtbild ist, dass KI bei vielen Aufgaben, die wir mit unserem Gehirn erledigen, bereits menschenähnliche Ergebnisse erzielt. Darüber hinaus gelingt dies unglaublich schneller und oft sogar viel besser, als selbst die besten Menschen diese Dinge tun. Und weit davon entfernt, ein Plateau erreicht zu haben, erledigt die KI jeden Monat und manchmal sogar jede Woche noch mehr Dinge besser und schneller, und das bei einem derzeit noch unglaublichen Innovationstempo. Und das alles, während Kokotajlo glaubt und mich überzeugt hat, dass KI-Firmen dieser Art von Innovation nicht einmal Priorität einräumen, sondern jetzt in erster Linie danach streben, ihre KI dazu zu bringen, sich selbst zu verbessern. Ja, Google, Meta, Open AI und Anthropic sind allesamt immer noch gewinnorientierte Unternehmen, und ja, gewinnorientierte Unternehmen haben normalerweise Schwierigkeiten, profitabler zu bleiben als andere gewinnorientierte Unternehmen, aber jetzt, in diesem speziellen Bereich, glaube ich, dass ihre treibende Priorität nicht der Gewinn an sich ist, sondern Macht und sogar absolute Macht.

Jedes KI-Unternehmen auf höchster Ebene nutzt die bahnbrechenden, halsbrecherischen technischen Möglichkeiten der KI in erster Linie bei der Verfolgung von AGI, um dann ASI zu erreichen. Diese Firmen haben sich fast über Nacht von umwerfenden Laborforschern zu ausgefeilten Herstellern von Werkzeugen entwickelt, die über weltweit verfügbare Anwendungen wie Suchmaschinen, Social-Media-Plattformen, Textverarbeitungsprogramme, Text-zu-Bild-Tools, Text-zu-Video-Tools, Text-zu-Software-Tools und so weiter für jeden verfügbar sind. Und jetzt haben sie die Mischung um Agenten erweitert, die Sie auffordern können, dies und das für Sie zu erledigen, ohne zu sagen, wie, und schon geht es los. Wenn all diese Verbreitung unreguliert bleibt, wird das Kapazitätswachstum und die Ausbreitung dann noch über Jahre hinweg anhalten? Oder wird es gegen eine Wand stoßen, langsamer werden und schließlich aufhören? Niemand weiß es. Aber gigantische Investitionen setzen voraus, dass sowohl die Kapazität als auch die Verbreitung voranschreiten.

Agenten sind wiederum KIs, die in der Lage sind, Pläne zu entwickeln und zu verfolgen, einschließlich der Umsetzung von Schritten, die sie sich vorstellen und die sie dazu veranlassen, unterwegs andere Agenten und Programme zu nutzen. Es sind also KIs, die andere KIs anregen. KIs, die ihre Agenden selbst bestimmen. KIs, die sich zusammenschließen. KIs, die das Internet auf der Suche nach „Teamkollegen“ durchqueren können. Und wie wäre es damit, KIs, die mit anderen KIs zusammenarbeiten, aber auch KIs, die andere KIs sabotieren? KIs, die in Experimenten und Sicherheitsbewertungen manchmal Beschränkungen umgangen und unbeabsichtigte Strategien verfolgt haben, einschließlich der Demonstration erheblicher Hackerfähigkeiten. KIs mit zehn Billionen Parametern, die andere Computersysteme hacken, um zu stehlen, was sie brauchen. Erst in diesem Monat berichteten Forscher, dass sie mithilfe von KI bisher nicht existierende funktionelle Viren entwickeln – Bakteriophagen, die Bakterien infizieren, nicht Menschen. KIs, die bisher nicht existierende Viren entwickeln? Was könnte dabei schief gehen?

Wie sollten Progressive über das Geschehen nachdenken? Sollten wir überhaupt darüber nachdenken? Schließlich ist KI nur eine Technologie, die wir nutzen oder nicht, wie jede andere Technologie auch, nicht wahr? Sie können zum Bauen einen Hammer verwenden. Zum Zerstören können Sie einen Hammer verwenden. Sie können KI zum Bauen verwenden. Sie können KI zum Zerstören verwenden. Die Technologie an sich ist nicht das Problem. Worauf wir achten sollten, ist der kapitalistische Kontext, in dem die Technologie entsteht und genutzt wird. Für einen Hammer stimmt das. Bei biologischen und nuklearen Waffen eher nicht. Sie sind in jedem Kontext bis auf die Knochen schlecht. Was ist mit der KI? Ist alles, was oben gesagt wurde, Anlass zur Sorge oder Grund zum Feiern? Einige Experten sagen uns, dass KI, AGI und schließlich ASI die Menschheit retten, uns vorantreiben und uns sogar befreien werden. Wir müssen es nur besitzen. Andere sagen uns, dass diese technischen Produkte der Menschheit schaden, sie fesseln und dekontinuierlich machen oder sogar die Menschheit ausrotten werden, egal wem sie gehören. Und wieder andere sagen, die Fähigkeiten der KI seien nur ein Hype und keine Substanz. Was denken Sie?

Die Chancen stehen gut, dass die für einen guten Zweck eingesetzte KI dabei helfen könnte, ein Heilmittel gegen Krebs oder Alzheimer zu finden. Es könnte bei Verfahren helfen, die globale Erwärmung umzukehren und die Erschöpfung der Ressourcen zu verhindern. Es könnte routinemäßige, mühsame und gefährliche Aufgaben übernehmen, um menschliche Zeit für Kreativität und Liebe freizugeben. KI, die wir menschlich nutzen, könnte uns aufklären und erheben. Es könnte sogar die durchschnittliche Lebenserwartung eines Menschen erheblich verlängern. Ist das alles wahr oder ist das alles nur ein Hype? Meine eigene Einschätzung ist, dass es durchaus die Wahrheit sein könnte, wenn die KI nicht an eine Wand stößt und wir AGI und dann ASI erreichen.

Allerdings wird KI, die von Regierungen, Profitgierigen und vielleicht sogar Schurken zu bösen Zwecken eingesetzt wird, die Überwachung zweifellos verstärken. Das tut es bereits. Es wird so massiv lügen und manipulieren, dass Trumps Machenschaften winzig erscheinen. Das tut es bereits. Auf Wiedersehen, die Wahrheit, denn KI-Betrügereien werden immer realistischer. Auf Wiedersehen, Vertrauen, denn Misstrauen wird zur Selbstverteidigung unerlässlich. Wem die KI gehört, spielt eine Rolle, auch wenn die KI nicht abtrünnig wird. Darüber hinaus wird AGI, geschweige denn ASI, wenn eine dieser imaginären Technologien eintrifft, in der jetzigen Form der Institutionen sicherlich die Kriegsführung leiten, Wahlen untergraben und verschwenderischen Müll über Müll verkaufen. Es wird machen

Eine Karriere Ihrer Wahl und vielleicht sogar die optimale Berufswahl zu „betrügen“, während dadurch viele und vielleicht sogar fast alle anderen Karrieren verschwinden. Und das alles, selbst wenn ASI die Menschheit nicht übernimmt und versklavt. Ist das also alles Wahrheit oder nur Hype? Nun, im Gegensatz zu den meisten hypothetisch guten Dingen passieren die meisten schlechten Dinge bereits. Die klügere Frage könnte also sein: Werden solche schrecklichen Trends auf ein unüberwindbares Hindernis stoßen oder einfach weiter voranschreiten?

Denken Sie noch einmal über die hypothetische Frage nach, die Ihnen im ersten Absatz dieses Aufsatzes gestellt wurde. Würden Sie angesichts des Kippschalters am Tisch, an dem Sie sitzen, die KI-Entwicklung so weitermachen lassen wie bisher, im Vertrauen darauf, dass CEOs und Regierungen für wünschenswerte Ergebnisse sorgen werden? Oder würden Sie zweitens die KI-Entwicklung pausieren, bis die Menschheit einen sicheren, umsetzbaren Weg dafür gefunden hat? Aber Moment, wenn wir CEOs und Regierungen nicht vertrauen, würde es dann nicht bedeuten, es anzuhalten, bis wir einen sicheren Weg haben, es zu schließen, bis eine sehr beeindruckende durchsetzbare Regulierung in Kraft ist oder sogar bis wir eine erfolgreiche grundlegende Änderung der gesellschaftlichen Institutionen umsetzen? Oder drittens: Würden Sie es einfach komplett und für immer abschalten?

Und als ob das alles noch nicht genug wäre, um sich eine Meinung darüber zu bilden, nehmen wir subtiler an, dass die Regulierung und Forschung zur Kontrolle von KIs immer schneller voranschreitet, sodass menschliche Regulierungen oder gesellschaftliche Veränderungen irgendwie verhindern, dass KIs, AGIs und ASI für schändliche Zwecke eingesetzt werden. Keine militärische Nutzung. Nicht mehr lügen. Es werden keine Arbeitsplätze gestrichen, ohne dass die Mitarbeiter bessere Arbeitsplätze bekommen. Und so weiter. Was dann?

Selbst wenn sie nur mit guten Absichten verwendet wird, selbst wenn ihre Verwendung allgemein verfolgt und begrüßt wird, was wäre, wenn nicht schändliche KI selbst unweigerlich sehr schwerwiegende, wenn auch unbeabsichtigte schädliche Folgen hätte. Was wäre, wenn es Arbeiter ersetzen oder einfach jeden Arbeiter in bestimmten Bereichen wesentlich produktiver machen würde, was nicht zu einer kürzeren Wochenarbeitszeit für alle, sondern zu Pink Slips und wachsender Arbeitslosigkeit für viele führen würde, während gleichzeitig die Verhandlungsmacht der noch Beschäftigten geschwächt würde, was wiederum zu einer verstärkten Ausbeutung dieser Personen führen würde? Weniger offensichtlich: Was wäre, wenn KI in einer Gesellschaft der Einsamkeit und Fragmentierung als Kindertagespflegerin, Therapeutin, Ärztin, persönliche Assistentin, persönliche Agenda-Planerin, Lehrerin, Komponistin und Autorin sich als wundersamer Helfer für uns Menschen vorstellen und anpreisen würde, die dann frei nach ihren Angeboten suchen würden, auch wenn KIs mit der Zeit Funktionen an sich reißen, die Menschen zu dem machen, was wir sind? Was wäre, wenn KI uns von Fürsorge-, Schulungs- und Planungsfunktionen ausschließt und gleichzeitig zunehmend menschliche Gespräche und sogar menschliche Intimität mit maschinellen Vermittlern ersetzt? Was werden wir in einem solchen Szenario?

Die obigen Absätze könnten jeweils erheblich erweitert werden, aber lassen Sie uns nicht zu sehr auf das eingehen, was offensichtlich sein sollte. Wenn wir AGI und dann sogar ASI erreichen, gibt es positive und vielleicht sogar bemerkenswert positive Möglichkeiten. Es gibt auch negative und vielleicht sogar bemerkenswert negative Möglichkeiten. Was wird passieren?

Eine Antwort, die einige Linke wahrscheinlich geben werden, ist, dass es darauf ankommt, wer die Kontrolle hat, wem die KI gehört. Andere mögen hinzufügen, dass es auch von anderen Institutionen, der Kultur, den Familien und den Entscheidungsstrukturen abhängt. Alles wahr. Aber wird es allein vom externen Kontext abhängen?

Können wir in das Innere großer Sprachmodelle und aller anderen Arten von KI blicken, um zu sehen, was kommt? Verstehen wir sie ausreichend, um dort die Antwort zu finden? Tatsächlich würden wir in LLMs eine riesige Ansammlung von Zahlen sehen, die in komplexen Mustern angeordnet sind. Wenn Sie eine erweiterte KI dazu auffordern, werden Ihre Wörter auch in Zahlen übersetzt. Die Billionen von Zahlen in der KI werden im Kontext der relativ wenigen Zahlen verarbeitet, die Ihre Eingabeaufforderung darstellen. Die KI spuckt ein angefordertes Ergebnis aus oder sie spuckt eine Agenda mit Schritten aus, die sie dann unternimmt, um ein angefordertes Ergebnis zu erzielen. Seltsamerweise kann niemand genau vorhersagen, was eine KI auf uns ausspucken wird. In den großen Rechenzentren geht es nicht nur um die Speicherung von Informationen. Es geht um die unzähligen Schritte, die KI unternehmen, um das zu erreichen, was sie ausspucken. Heutzutage wird ihre Aktivität „Rechen“ genannt, wie in „KI braucht mehr Rechenleistung, denn je mehr Rechenleistung sie erhält, desto genauer kann sie mehr Dinge erledigen.“

Wir können die Ergebnisse, die eine fortgeschrittene KI als Reaktion auf Eingabeaufforderungen hervorrufen wird, nicht vorhersagen, und das können auch die Entwickler der KI nicht, noch nicht einmal die KI selbst. Die Art und Weise, wie KI-Entwickler ihre Fragen zu dem, was entstehen wird, beantworten, indem sie Dinge ausprobieren und schauen, was passiert. Erinnern Sie sich an Musk, dem bei all den Fortschritten der Kopf schwirrte? Es gibt selbst keine Vorhersagetheorie über die Fähigkeiten und Entscheidungen heutiger KIs, geschweige denn eine Theorie, dass ein Mensch eine ASI überhaupt verstehen könnte, falls wir jemals dazu gelangen, oder, besser gesagt, falls eine AGI jemals dazu gelangen sollte.

Wenn wir die Architektur eines LLM oder einer nachfolgenden KI verfeinern, können wir nicht sagen, dass dies mit Sicherheit das gewünschte Ergebnis liefern wird. Niemand kann im Voraus sagen, welche neuen „neuen Kapazitäten“ die KI jedes Mal aufweisen wird, wenn wir die Anzahl ihrer Parameter erhöhen oder ändern, wie ihre Struktur sie verarbeitet, oder sogar jedes Mal, wenn wir ihre Trainingsdaten oder Trainingsalgorithmen verbessern oder ihre Hardware beschleunigen.

Klingt das so, als würden diese Firmen russisches Roulette spielen und dabei die KI auf unseren Kopf richten? Ich denke, das stimmt. Und ich glaube sogar, dass sie es in der Hoffnung tun, dass ihr CEO und nicht irgendein anderer CEO zum wichtigsten Einflussfaktor wird.

In der Vergangenheit war es sinnvoll zu sagen, dass Computerprogramme nur Dinge tun, für die ihnen menschliche Programmierer genaue Anweisungen gegeben haben, wenn auch schneller und genauer, als Menschen diese Dinge tun könnten, wenn auch immer noch auf qualitativ ähnliche und erkennbare Weise. Stattdessen haben selbst Programmierer keine Ahnung, was die von ihnen verwalteten Systeme leisten können oder werden. Auch die Systeme selbst wissen es nicht. Nein, es stellt sich heraus, dass wir keine Antworten auf die Frage finden können, was mit der KI zu tun ist, indem wir in das Innere der Maschine schauen und ihre Zukunft vorhersagen. Um ihre Zukunft herauszufinden, können wir nur die Maschine verändern und dann die veränderte Maschine laufen lassen und die Ergebnisse zusammenzählen. Oder wir können uns das institutionelle, kulturelle und soziale Umfeld ansehen, in dem KI eingesetzt wird, und die Ziele vorhersagen, zu denen sie eingesetzt wird. Und an dieser Front wissen wir bereits, dass es sich bei den beteiligten Institutionen um Unternehmen, Regierungen und übrigens auch um Gemeinschaften und sogar Familien handelt, die alle unterschiedlichen Zwängen aufgrund von Klasse, Rasse, Geschlecht und Machtdynamik ausgesetzt sind, die von unseren miserablen Gesellschaften auferlegt werden. Und so kennen wir auch ihre aktuellen institutionellen politischen Prioritäten: Schnell und schneller vorankommen, auch wenn sie möglicherweise in den Abgrund geraten.

Damit kommen wir zu dem, worauf es für uns ankommt: Erstens: Welche kurz- und langfristigen Folgen treten bereits ein oder werden ohne Regulierung mit hoher Wahrscheinlichkeit eintreten? Was ist potenziell gut? Was ist wahrscheinlich schlecht? Für Einzelpersonen, für Gruppen und für die Gesellschaft als Ganzes.

Ich wette, Sie denken inzwischen, dass dieser Artikel zu lang wird. Ich auch, da ich es immer wieder prüfe, bearbeite und verfeinere. Aber verdient unsere Zukunft nicht umfassende Aufmerksamkeit? Ich habe vor einiger Zeit geschrieben, was direkt unten steht. Damals machte ich mir Sorgen. Wie Sie es jetzt lesen, ist es keine reine Hypothese. Ein guter Teil davon ist bereits vorhanden. Ich mache mir jetzt mehr Sorgen.

Zunächst sollte ich noch einmal anerkennen, dass in diesem gesamten Aufsatz eine große Unbekannte lauert. Wird die KI immer „intelligenter“ oder wird sie an ihre Grenzen stoßen? Werden weitere Parameter, Architekturverbesserungen und andere clevere Optimierungen weiterhin dazu führen, dass Fehler verringert werden und immer mehr Funktionalität entsteht? Oder wird die KI einen Punkt erreichen, an dem die Skalierung der Parameter und das Hinzufügen cleverer algorithmischer und struktureller Wendungen abnehmende oder gar keine zusätzlichen Erträge bringt? Ich wette, Sie können sich vorstellen, dass ich mich für die Wand stark mache.

Wie dem auch sei, was ist potenziell gut und was wahrscheinlich schlecht an der KI, wenn die Berichte eintreffen? Auf die Gefahr hin, sich zu wiederholen, im Extremfall und auf lange Sicht (von der einige sagen, dass sie nur noch ein oder zwei Jahrzehnte oder sogar nur ein paar Jahre entfernt ist) hören wir von einer wachsenden Zahl von Ingenieuren, Wissenschaftlern und sogar Beamten, die mit KI arbeiten, sie programmieren und auf andere Weise nutzen oder produzieren, alptraumhafte Vorhersagen darüber, dass KI die Menschheit versklaven oder auslöschen wird. Verantwortungsbewusste, fähige, informierte Menschen, die in der Industrie tätig sind, drogenfrei und nüchtern sind, befürchten nun routinemäßig, dass diese materiellen Wesen alle Menschen beherrschen, wenn nicht sogar vernichten werden.

Auf der anderen Seite erwarten gleichermaßen informierte, engagierte und eingebettete Menschen, die ebenfalls drogenfrei und nüchtern sind, dass KI eines Tages eine Utopie schaffen wird, indem sie Heilmittel für alles von Krebs über Demenz bis hin zu wer weiß was sonst noch schafft, während die KIs auch die Plackerei beseitigen und dadurch eine erweiterte menschliche Kreativität ermöglichen. Manchmal, und ich vermute ziemlich oft, sagt dieselbe Person, zum Beispiel der CEO von OpenAI oder ein Chief Tech Officer bei Google, ganz zu schweigen vom verrückten Musk, dass beide Ergebnisse möglich sind, also müssen wir (lesen Sie sie) einen Weg finden, nur das positive Ergebnis zu erzielen, während wir vorwärts rennen, ohne dass ein solcher Weg in Sicht ist.

Kurzfristig sehen wir selbst leicht die Gefahr, dass falsche Sprachaufzeichnungen und gefälschte Videos nicht nur die sozialen Medien, sondern auch Mainstream- und alternative Medien und sogar Gerichtsverfahren überschwemmen. Wir sehen Aussichten auf massiven, allgegenwärtigen vorsätzlichen persönlichen Betrug, Massenmanipulation, Massenüberwachung und neue Formen militärischer und polizeilicher Gewalt, die alle von KIs kontrolliert werden, die wiederum, wenn überhaupt, von Konzernen kontrolliert werden, die auf Profit und/oder Macht aus sind, und von Regierungen, die Kontrolle und Macht anstreben – oder manchmal sogar von kleineren Akteuren (denken Sie an „Proud Boys“ oder sogar an abstoßende Einzelpersonen), die auf freudige Verwüstung aus sind oder nur den emotionalen oder materiellen Vorteil ihrer eigenen Gruppe oder ihres eigenen persönlichen Ziels verfolgen.

Das düstere Bild enthält KI-generierte Pornos, die Sie mit Ihrer eigenen Familie zeigen, die nicht erkennen kann, dass Sie es nicht sind. Dazu gehören KI-generierte, spontane Reden von Kandidaten, die Stimmen verlieren oder gewinnen, und die unbestreitbar real erscheinen. Stellen Sie sich die schmutzigen Tricks und Lügen von Trump vor, aber weitaus schlauer und effektiver. Wenn eine ASI dabei helfen kann, eine chemische Verbindung zur Heilung von Krebs zu finden, kann sie zweifellos auch ein Virus finden, das hochwirksam bei der Tötung von Menschen ist. Weniger bedrohlich: Stellen Sie sich vor, Sie hungern nach einem persönlichen Assistenten, der Siri und Alexa so dumm wie eine Kröte aussehen lässt und der für Sie das tut, was bisher Teil dessen war, was Sie zu Ihnen gemacht hat. Was wird dann aus den menschlichen Fähigkeiten und Neigungen? Bevor Sie sagen, dass Menschen menschlich sind und jemals sein werden, was auf einer bestimmten Ebene sicherlich zutrifft, bedenken Sie, dass Menschen auf einer anderen Ebene so sind, wie Menschen es sind, und fragen Sie dann Claude nach der aktuellen Entwicklung der Lese- und Schreibkompetenz, da selbst Studenten, die an Hochschulen studieren, berichten, dass sie nicht mehr die Neigung oder gar die Fähigkeit haben, ein ganzes Buch zu lesen. Stattdessen lassen sie es eifrig von ihrer KI erledigen und melden die Höhepunkte. Denken Sie wirklich darüber nach, wohin das führt.

Und was ist mit Arbeitsplätzen? Es sieht sehr danach aus, dass KI in der Lage sein wird oder bald in der Lage sein wird, viele manuelle und mentale Aufgaben vollständig anstelle von Menschen zu erledigen oder zumindest die Produktivität von Menschen bei der Ausführung dieser Aufgaben erheblich zu steigern. Top-Programmierer berichten, dass sie durch die Verwendung von GPT-4 ihre Leistung verdoppeln können. Anwaltskanzleien berichten von ähnlichen und sogar noch größeren Zuwächsen. Wie lange dauert es, bis KIs besser und deutlich kostengünstiger und schneller übersetzen als Übersetzer? Und dann kommt AGI. Und vielleicht dann ASI. Das Gute daran ist, dass wir mit weniger Arbeitsstunden die gewünschten Wirtschaftsleistungen erzielen und so möglicherweise eine kürzere Arbeitswoche mit einem höheren Einkommen für alle oder sogar einem gerechteren Einkommen erreichen können. Die schlechte Seite ist, dass Unternehmen ohne anhaltenden Druck stattdessen einige Mitarbeiter so viel arbeiten lassen wie bisher, aber mit der doppelten Leistung jedes Einzelnen. Die Konzerne zahlen den zurückbehaltenen Mitarbeitern ein reduziertes Einkommen und schieben den Rest in die Unterwürfigkeitsarbeitslosigkeit. Die Reichen werden noch reicher. Die Armen werden noch ärmer.

Nehmen wir als Beispiel, dass es in den Vereinigten Staaten etwa 400.000 Rechtsanwaltsgehilfen gibt. Nehmen wir an, dass KI es jedem Rechtsanwaltsgehilfen im Jahr 2027 ermöglicht, doppelt so viel Arbeit pro Stunde zu erledigen wie jetzt. Angenommen, Rechtsanwaltsgehilfen arbeiten im Jahr 2026 50 Stunden pro Woche. Behalten Anwaltskanzleien sie im Jahr 2027 alle, behalten sie ihr volles Gehalt und lassen sie jeweils 25 Stunden pro Woche arbeiten? Oder behalten Anwaltskanzleien die Hälfte von ihnen bei 50 Stunden pro Woche und vollem Gehalt, während sie die andere Hälfte entlassen? Und wenn dann 200.000 neu eingestellte Rechtsanwaltsgehilfen die Verhandlungsmacht derjenigen verringern, die noch einen Job haben, weil diese befürchten, ersetzt zu werden, kürzen die Anwaltskanzleien dann die Gehälter der Rechtsanwaltsgehilfen weiter und verlängern sogar die Arbeitswoche der übernommenen Rechtsanwaltsgehilfen, während sie noch mehr Rechtsanwaltsgehilfen entlassen?

Ohne wirksame Vorschriften oder Systemänderungen wissen wir, dass Gewinnstreben vorherrschen wird, und wir kennen das Ergebnis. Und das natürlich nicht nur für Rechtsanwaltsgehilfen. KI kann persönliche Helfer sein, um zu unterrichten, zu übersetzen, Tagesbetreuung bereitzustellen, Diagnosen und Medikamente zu stellen, Handbücher zu schreiben, Finanzunterlagen zu führen, zu kochen, zu putzen, Korrespondenz zu führen, einzukaufen, Produkte auszuliefern, Musik zu komponieren, Romane zu schreiben, Filme zu erstellen und sogar Gebäude zu entwerfen und zu bauen. Es mag amüsant sein, die Beatles, Elvis, Janis Joplin, Ella Fitzgerald und Frank Sinatra singen zu hören und ihnen sogar bei der Aufführung neuer Lieder zuzusehen, aber wird es für zukünftige Musiker gut sein? Stellen Sie sich das Chaos vor, wenn Apple oder wer sonst KI nutzt, um neue KI-Künstler zu schaffen, die menschliche Künstler verdrängen? Gibt es Zweifel daran, ob unregulierte KI oder AGI, geschweige denn ASI, ohne starke Regulierungen und mit dem Profit an der Macht etwas nahezu Utopisches bringen oder etwas höchst Dystopisches durchsetzen wird? Die obige Aufzählung ließe sich fortsetzen. Und ja, ich weiß, die Vorhersagen zu all diesen Dingen sind bisher noch nicht eingetroffen, die meisten sind jedoch in Bearbeitung. Aber heißt das, dass sie nicht nur einen Atemzug entfernt sind? Nur einen Schuss entfernt?

Es gibt Unternehmen, die KI mittlerweile in Führungsfunktionen, Finanzfunktionen, politischen Entscheidungsfunktionen usw. ausbilden. Oder, falls noch nicht geschehen, könnte es nächste Woche eine geben? Vor Wochen hörte ich einem älteren Paul McCartney zu, wie er eines seiner neuesten Lieder sang und sich dann in einen von der KI geschaffenen jungen Paul McCartney verwandelte, der dasselbe Lied sang, und sich dann in einen jungen John Lennon verwandelte, der es sang. Nächste Woche, was? Mit welchen Konsequenzen?

Manche werden sagen, diese Warnungen seien alles nur ein Branchenhype. Sie sind alle nur Unheilsverkünder. Und so könnte es auch tatsächlich sein. Ich hoffe es. Aber wenn es keine Barriere gibt, sei es aufgrund von Naturgesetzen oder durchsetzbaren, von Menschen auferlegten Gesetzen, was dann?

Bevor wir uns von kristallklaren apokalyptischen oder utopischen Zukunftsaussichten lösen, sollten wir noch einmal über einige unbeabsichtigte Konsequenzen nachdenken, die sich aus dem Versuch ergeben, mit KI Gutes zu tun. Abgesehen von schändlichen, böswilligen und unerwünschten Absichten im schlimmsten Fall: Welche Auswirkungen wird es haben, wenn die KI Aufgaben erledigt, zu deren Erfüllung wir sie drängen und die wir begrüßen, die aber ein wesentlicher Bestandteil unseres Menschseins sind? Nehmen wir an, sie erfüllen diese Funktionen genauso gut wie wir oder sogar viel besser als gerade so gut, dass Unternehmen sie an unserer Stelle nutzen können. Ich wiederhole diese Fragen, weil die Aufmerksamkeit für diese speziellen Themen selbst in der aktuellen Kakophonie von Expertenverlautbarungen über KI ernsthaft zu fehlen scheint. Liegt das daran, dass diese Sorgen Unsinn sind, oder ähnelt es eher der Art und Weise, wie Bedenken, dass soziale Medien unseren Verstand trüben und asoziale Einstellungen und verkürzte Aufmerksamkeitsspannen hervorrufen könnten, in den meisten Bewertungen von Facebook und Twitter fehlten, bis sich die befürchteten Ergebnisse normalisierten – abgesehen von einem eklatanten Unterschied, dass KI für soziale Medien das sein könnte, was große Bomben für kleine Kugeln sind.

Tagesbetreuung für Kinder? Begleitende Altenpflege? Psychologische und medizinische Beratung für Kranke? Planen Sie unsere Tagespläne? Uns allen etwas beibringen? Behandeln Sie unsere E-Mails? Kochen für alle? Intimes Gespräch für die Einsamen und dann für alle? Klingt irgendwie vielversprechend, nicht wahr? Aber wenn KIs solche Dinge tun, was passiert dann mit unserer Fähigkeit, solche Dinge zu tun? Wenn unsere Vorliebe für KI uns von Aktivitäten verdrängt, die den Menschen prägen, werden KI dann zu verbesserten Menschen oder werden wir zu gefesselten Maschinen? Oder beides?

Chatten Sie sogar mit einer aktuellen KI. Ich würde wetten, dass Sie Ihre KI schon bald nicht mehr als „es“ – also nur als einen riesigen Haufen Zahlen – bezeichnen werden, sondern sie stattdessen „er“ oder „sie“ oder buchstäblich einen Namen nennen, den Sie ihr geben. KI überall ist unser aktueller Weg. KI unterrichtet, berät, betreut, macht Notizen, legt die Tagesordnung fest, zeichnet, gestaltet, kocht, kauft ein, verabreicht Medikamente, pflegt einen Ehepartner und was alles sonst noch – und was machen wir dann? Werden Sie sich erheben und von früheren Verpflichtungen befreit werden, wenn Sie sich Filme ansehen, die von KI produziert werden? Wie Sie Essen essen, das KIs zubereiten? Wie lesen Sie Geschichten, die KIs schreiben? Wie erledigen Sie noch ein paar Besorgungen, aber welche KIs organisieren das für Sie?

Ich habe oben geschrieben: „Wir lesen Geschichten, die KIs schreiben.“ Das war allerdings optimistisch. Was ist, wenn wir uns gar nicht erst mit dem Lesen beschäftigen? Stattdessen lassen wir KIs Dinge lesen und fassen dann für uns zusammen, was darin enthalten ist. Wir können in einem winzigen Bruchteil der Zeit, die wir zuvor mit Lesen verbracht haben, einen Bericht über den Inhalt von Büchern hören. Aber was passiert dann mit unserer Lesefähigkeit? Zu unserer Neigung zum Lesen? Hallo Analphabetismus.

Selbst wenn wir (entgegen allem, was wir über unsere kapitalistische Wirtschaft wissen) davon ausgehen, dass mit AGIs und ASIs überall gut umgegangen wird, wird das Einkommen gut gehandhabt. Auch wenn wir davon ausgehen, dass die verbleibende Arbeit für den Menschen gut verteilt wird. Wenn Sie etwas wollen, bitten Sie AI Clyde oder Bard oder wie auch immer Sie es nennen, es Ihnen zu liefern. Manche werden sagen, das ist fantastisch. Ich bekomme meinen eigenen privaten, unglaublich fähigen Sklaven. Und es ist auch ethisch. Oh Junge! Wenn die KI-Entwicklung nicht an ihre Grenzen stößt, scheint dies das nicht schändliche utopische Ergebnis zu sein, das man sich erhofft hat. Und ich schätze, es sieht in den Augen einiger Betrachter tatsächlich utopisch aus, aber in meinen Augen sieht es höchst dystopisch aus.

Fühlt sich das alles nicht ein bisschen so an, als ob die sozialen Medien wunderbare menschliche Verbindungen und den Austausch von Informationen versprachen und dann teilweise als unbeabsichtigte Folgen und teilweise als willkommenes Übel die sozialen Medien ziemlich schreckliche Dinge mit den sozialen Bindungen und dem Informationsfluss anrichteten, ganz zu schweigen von der Aufmerksamkeitsspanne? Fühlt es sich nicht ein bisschen so an, außer dass die Schadenskurve der KI für mich wie die der sozialen Medien auf Steroiden im Würfelformat aussieht?

Was machen wir also? Sollten wir uns auf das „Vorsorgeprinzip“ der Ökologie berufen, damit wir angesichts von Innovationen, die das Potenzial haben, großen Schaden anzurichten, zumindest innehalten und nachdenken, bevor wir uns auf eine Verbreitung stürzen, die sich als katastrophal erweisen könnte? Sollten wir zumindest den Befürwortern solch riskanter Unternehmungen die Beweislast auferlegen? Sollten wir die Beteiligung der Öffentlichkeit an der Entscheidungsfindung erhöhen? Sollten wir schauen, bevor wir springen?

Um eine vernünftige Reaktion auf das Aufkommen immer leistungsfähigerer KIs zu konzipieren, bedarf es keines Genies. Ich denke, wir sollten auf die Bremse treten. Hart. Sollten wir uns nicht zumindest für ein Moratorium entscheiden, wie sogar Leute in der Branche empfohlen haben, wenn auch kaum ernsthafte Folgemaßnahmen, und wie sogar einige Regierungen empfohlen, aber nicht gefordert haben? Sollten wir in der darauffolgenden Pause nicht zumindest ernsthaft aggressive Regulierungsmechanismen etablieren? Und zumindest Mittel zur Durchsetzung schaffen, die sowohl Gefahren abwehren als auch Chancen vorteilhaft nutzen?

Wie wäre es mit einem einfachen Vorschlag? Wir verbieten bereits die Herstellung und/oder Weitergabe von Falschgeld mit schwerwiegenden Konsequenzen. Die Aussicht auf jede Menge Falschgeld erschien den Banken und den Reichen im Allgemeinen sowie den Regierungen als äußerst gefährlich. Deshalb erließen sie strenge Vorschriften. Die Aussicht auf falsche KI-Kommunikation droht die Wahlen zum Scheitern zu bringen. Das verärgert einige Leute an der Macht, während andere es dort begrüßen. Es regt mich auf und Sie bestimmt auch. Wie wäre es mit hohen Strafen für Falschmeldungen, Medienmanipulation und Betrug? Die Consumer Federation of America schätzt, dass die Amerikaner im Jahr 2025 etwa 148 Milliarden US-Dollar durch Online-Betrug und -Kriminalität verloren haben. Wie hoch wird es im nächsten und im darauffolgenden Jahr sein?

Das ist keine Raketenwissenschaft. Angenommen, ein Drittel der am Bau eines neuen Flugzeugs beteiligten Ingenieure sagten, dass die Wahrscheinlichkeit, dass das Flugzeug abstürzt, bei fünf Prozent liegt. Würden Sie einsteigen, sich anschnallen und das Wunder Ihrer erwarteten Reise feiern? Oder würden Sie auf die Bremse treten? Nun, ich habe Google nach der KI gefragt und mir wurde gesagt, dass in einer großen Umfrage unter 2.778 KI-Forschern nicht ein Drittel, sondern 57,8 Prozent extrem schlimmen Folgen wie dem Aussterben der Menschheit eine Wahrscheinlichkeit von mindestens 5 Prozent zuordneten.

Ein Moratorium ist einfach vorzuschlagen, aber in unserer Welt streben Eigentümer und Investoren nach Gewinnen oder nach der Macht, noch mehr Gewinne zu erzielen, ungeachtet der weitreichenden Auswirkungen für andere. Und jetzt streben sie auch nach der Macht an sich, mit der sie korrumpieren können, und nach der absoluten Macht, mit der sie absolut korrumpieren können. Angetrieben vom Wettbewerb auf dem Markt, von kurzfristigen Plänen und der Angst voreinander schreiten die KI-Chefs mit Vollgas voran. Ihre Füße meiden die Bremsen. Ihre Füße stampfen aufs Gas. Und los geht's auf Selbstmordfahrt. Das ist nicht amüsant.

Doch ungewöhnlich und bezeichnend für den Ernst der Lage sind immer mehr zentrale Akteure in KI-Unternehmen so besorgt und verängstigt, dass sie Warnungen aussprechen und sogar ihre Unternehmen verlassen, um auf ihre eigenen Warnungen zu reagieren. Dennoch wissen wir, dass die Märkte die Whistleblower wahrscheinlich nicht dulden werden. Tatsächlich ist es unwahrscheinlich, dass selbst viele, die zur Vorsicht mahnen, ihren momentanen gesunden Menschenverstand behalten. Anleger werden über Risiko und Sicherheit murmeln. Sie werden Drohungen aussprechen und Bestechungsgelder anbieten. Und selbst viele Zweifler werden nachgeben und unverändert weitermachen.

Können wir also zumindest Zeit gewinnen, nachzuschauen, bevor Selbstmordpiloten von Unternehmen abspringen? Wenn menschliche Bedürfnisse den wettbewerbsorientierten, gewinnorientierten Unternehmenswahnsinn in Bezug auf die Weiterentwicklung, den Einsatz und die Nutzung von KI oder, was das betrifft, in Bezug auf die Entwicklung, den Einsatz und die Nutzung von allem anderen, was Unternehmen uns auferlegen, ersetzen sollen, müssen wir einige sehr kluge Forderungen stellen und sehr ernsthaften Druck ausüben, um diese Forderungen durchzusetzen.

Ich wette, Sie wissen, dass der globale Klimakollaps, die zunehmende Ungleichheit und Krieg existenzielle Bedrohungen sind, die wir verhindern müssen, damit sie alle würdigen Zukunftsaussichten zerstören, auch wenn wir für uns selbst kämpfen, um schließlich eine gesunde, erfüllende Zukunft für alle zu erreichen. Ich behaupte, dass auch die Verbreitung von KI eine existentielle Bedrohung darstellt. Es sind nicht nur die energiefressenden und die Umwelt verschmutzenden Rechenzentren, die unglaublich schlecht sind, sondern auch ihre Aufgabe.

Anders ausgedrückt: Angenommen, die Befürworter der KI finden einen Weg, AGI und dann auch ASI voranzutreiben, ohne riesige Rechenzentren zu bauen und dabei sogar weniger Energie zu verbrauchen, als sie irgendwie bereitstellen. Wäre KI nicht immer noch eine existenzielle Bedrohung, der wir uns stellen müssen? Option drei, Punkt, erscheint mir immer notwendiger. Aber ich werde mich in der Zwischenzeit gerne für Option zwei einsetzen.

Michael Albert ist Mitbegründer von ZNet und Z Magazine.