Gibt es einen Ausweg aus dem KI-Doomerismus?

Vor nicht allzu langer Zeit diskutierte ein enger Freund von mir, ein Softwareentwickler, darüber, wie sich seine berufliche Rolle in den letzten Monaten verändert hatte, als sein Unternehmen zu einem „AI-First-Ansatz“ übergegangen war. Er erklärte, dass dieser Ansatz die Dynamik seines Teams verändert habe. Er erzählte mir, dass er jetzt eine Frage mehr fürchtet als jede andere, eine Frage, die im Büro zu einem Refrain geworden ist: „Warum gibst du sie nicht einfach Claude?“ „Es“ handelt sich in der Regel um ein schwierig zu lösendes technisches Problem, das das Team für eine Weile oder zumindest länger als ein paar Minuten ratlos gemacht hat, oft während einer technischen Diskussion, die noch vor ein paar Jahren weit über eine Stunde gedauert hätte. Er wird das Problem stets an Claude übergeben, der innerhalb weniger Minuten stets eine beeindruckende Lösung vorlegen wird. Es macht ihm nichts aus, dass Claude ihm eine Lösung geboten hat. Ihm fällt auf, dass die Menschen um ihn herum ihn nicht mehr wie einst als Autorität verstehen. Es stört ihn, dass er sich jetzt mehr oder weniger austauschbar fühlt. Oder vielleicht, noch schlimmer, veraltet.

Das Konzept der menschlichen Obsoleszenz nimmt Garrison Lovely in seiner Studie „Obsolete: The AI ​​Industry’s Billion-Dollar Race to Replacement Us — and How to Stop It“ ernst. Anstatt sich dem Thema aus der Sicht der Arbeiter vor Ort zu nähern (wie andere neuere Bücher zu diesem Thema, vielleicht am bemerkenswertesten We Are Not Machines von Sarah O’Connor), nähert sich Lovely dem Thema von oben, aus der Vogelperspektive und als Problem der politischen Ökonomie. Obsoleszenz, Redundanz, Fungibilität: Das sind politische Probleme für Lovely. Und doch wissen diejenigen, die den lauten und sich ständig weiterentwickelnden Diskurs über künstliche Intelligenz verfolgen, dass die meisten der heute diskutierten Themen nicht genau entlang der üblichen politischen Bruchlinien verlaufen. Wie Lovely bereits zu Beginn seines Buches anerkennt, stellt sich die Frage, zu welchem ​​anderen Thema sich Elon Musk sonst noch auf die Seite der Service Employees International Union stelltgegenNancy Pelosi und der rechtsextreme Milliardär Marc Andreessen? Oder stimmt Steve Bannon der nationalen Sicherheitsberaterin von Barack Obama, Susan Rice, zu, während er gleichzeitig offen die Politik von Donald Trump kritisiert?

Lovely behauptet jedoch, dass es eine Sache gibt, über die sich alle einig sein sollten: die Tatsache, dass „eine kleine Gruppe von Menschen, unterstützt von den am besten ausgestatteten Organisationen der Welt, dies versucht.“machen uns überflüssig.“ Wenn man es so formuliert, könnte man meinen, dass die Behauptung bestenfalls tendenziös klingt (und schlimmstenfalls ein Zeichen politischer Paranoia). Man könnte meinen, dass die meisten Labore für künstliche Intelligenz vor einer solchen Beschreibung zurückschrecken würden. Aber wie Lovely schnell betont, waren diese Unternehmen bemerkenswert offen in Bezug auf ihr Ziel, menschliche Arbeit abzuschaffen.

OpenAI zum Beispiel teilt uns in seiner Charta mit, dass es vom ersten Tag an die Künstliche Allgemeine Intelligenz (AGI) verfolgt hat, die es als „hochautonomes System, das den Menschen bei wirtschaftlich wertvollster Arbeit übertrifft“ definiert. Ganz gleich, wie das Unternehmen es ausdrückt, seine Mission, AGI aufzubauen, ist genau ein Versuch, Kapital in Arbeit umzuwandeln und eine der letzten verbliebenen Beschränkungen des Kapitals zu beseitigen: die Abhängigkeit von menschlichen Arbeitskräften. Dies führt Lovely zu der Argumentation, dass AGI nicht als eine neue Art von Gehirn, sondern als eine neue Art von Maschine neu definiert werden sollte, eine Maschine, die keine Produkte oder Dienstleistungen herstellt, sondern selbst Arbeit produziert. Er nennt diese Maschine „die veraltete Maschine“.

Der erste Teil von Obsolete, „What You’ve Heard“, katalogisiert kurz und bündig die heute vorherrschenden Positionen zur KI. Lovely schreibt, dass „die hitzige Debatte über AGI ungefähr drei konkurrierende Lager hat: Besorgniserregende, Beschleuniger und Kritiker.“ Die Besorgniserregenden, zu denen die KI-Sicherheitsbewegung und diejenigen gehören, die oft abwertend als „Doomer“ bezeichnet werden, sind sich einig, dass AGI möglich ist, glauben aber, dass ihre Entwicklung wahrscheinlich katastrophale Auswirkungen auf unsere Zukunft haben wird. Die Kritiker, zu denen Persönlichkeiten wie Emily Bender gehören (die bekanntermaßen Co-Autorin eines Artikels war, in dem sie große Sprachmodelle als „stochastische Papageien“ abtat), bleiben zutiefst skeptisch, ob AGI überhaupt möglich (geschweige denn unmittelbar bevorstehend) ist, und neigen dazu, den Diskurs darüber als bloßen Hype abzutun. Schließlich spricht Lovely von den Akzelerationisten (oder „Boostern“), die den Glauben der Besorgniserregenden an das bemerkenswerte Potenzial der Technologie teilen, aber darauf bestehen, dass wir AGI so schnell wie möglich ausbauen sollten. (Andreessen zum Beispiel hat zu Protokoll gegeben, dass er die zweifelhafte Behauptung aufgestellt hat, dass je länger wir mit der Entwicklung von AGI warten, desto mehr Leben verlieren wir, die durch Durchbrüche in der Medizin hätten verhindert werden können.)

Die daraus resultierenden Allianzen zwischen diesen Gruppen sind oft überraschend. Sowohl Kritiker als auch Besorgniserregende wollen beispielsweise, dass die Branche zurückgehalten wird, wenn auch oft zu sehr unterschiedlichen Bedingungen und aus sehr unterschiedlichen Gründen; Kritiker und Akzelerationisten können sich unterdessen darin einig sein, dass hypothetische existenzielle Bedrohungen nicht die gegenwärtige Politik bestimmen und uns vom Hier und Jetzt ablenken sollten.

Lovely widmet einen beträchtlichen Teil seines Buches der Zerlegung vieler von diesen Lagern vorgebrachter Bedenken und Argumente (was ihm in den meisten Fällen sehr erfolgreich gelingt), bevor er eine vierte Position vorschlägt, mit der er sich verbündet, den „Reformer“. KI-Reformer, schreibt er, „erkennen, dass die gegenwärtigen Schäden und potenziellen Katastrophen der KI keine getrennten Probleme sind, die unterschiedliche Ansätze erfordern – sie sind Symptome derselben zugrunde liegenden Dynamik: Wettbewerbsdruck, konzentrierte Macht und ein erschreckender Mangel an Rechenschaftspflicht.“ Hier greift er auf die bekannten Beispiele von Chatbots zurück, die Teenager-Selbstmorde fördern, und auf die Möglichkeit, dass AGI ein ernstes Sicherheitsrisiko darstellt, wenn sie der menschlichen Kontrolle entgleitet. Beide entstehen durch Organisationen, die sich beeilen, Systeme bereitzustellen, die sie nicht vollständig verstehen.

Was könnte uns davon abhalten, in die technologische Polykrise zu stürzen, die Lovely fürchtet? Seine im letzten Abschnitt („Was zu tun ist“) dargelegten Vorschläge sind lobenswert, aber geopolitisch müsste sich viel ändern, bevor einige seiner Forderungen erfüllt werden könnten. Am ehrgeizigsten ist vielleicht, dass er möchte, dass die Vereinigten Staaten und China sich darauf einigen, keine KI-Systeme zu entwickeln, die „die Arbeit vollständig automatisieren sollen“, bis es sowohl öffentliche Unterstützung als auch breite wissenschaftliche Einigkeit über ihre Sicherheit gibt. Aber für jeden, der die wiederholten Versprechen der Trump-Regierung gehört hat, „alles zu tun, was nötig ist“, um „Amerikas globale KI-Dominanz“ zu sichern und „den KI-Wettlauf zu gewinnen“, mag die Wahrscheinlichkeit, dass dies geschieht, fast komisch erscheinen. (Es ist erwähnenswert, dass die Biden-Regierung KI auch als einen Wettlauf betrachtete, den es gegen die Chinesen zu gewinnen gilt.) Es gibt andere hoffnungsvolle und bescheidenere Vorschläge, die die aktuelle Situation verbessern könnten. Zum Beispiel die Idee, dass wir eine öffentliche Recheninfrastruktur aufbauen und gleichzeitig kollektive „Datengewerkschaften“ gründen sollten, um über Material zum Trainieren der Modelle zu verhandeln. Aber wenn der Eindruck entstehen würde, dass China seine KI-Operationen verstärkt, gibt es dann wirklich eine realistische Welt, in der die Vereinigten Staaten diesem Beispiel nicht folgen und damit diese gerechteren, demokratischeren Ideen aufgeben würden?

Es gibt Zeiten, in denen Lovelys Buch frustrierend zu lesen ist. Der übermäßig aufgeknöpfte Stil kann einem Argument auf die Nerven gehen oder, noch schlimmer, es untergraben („keine Seite will eine abtrünnige Superintelligenz erschaffen oder zulassen, dass irgendein Rando Milliarden tötet“). Gelegentlich hat die Prosa etwas Leichtsinniges („Altman weiß wie sein Chatbot, was er sagen muss, um das Gespräch am Laufen zu halten – und Ihre Hände sollten fest vom Netzkabel entfernt sein“). Und die Struktur des Buches mit seinen vielen Kapiteln, die weiter in Abschnitte und Unterabschnitte unterteilt sind, vermittelt das Gefühl, als würden wir ein Lehrbuch durchblättern (eines mit besonders beengten und manchmal unnötigen Grafiken und Diagrammen). Und natürlich gibt es da noch den eher sensationellen Untertitel. Dabei handelt es sich jedoch meist um kleinere (und redaktionelle) Kritikpunkte.

Obsolete macht etwas, das sowohl nützlich als auch herausfordernd ist. Es bietet einen aufschlussreichen Überblick über den aktuellen Stand der KI-Debatte und bietet gleichzeitig einige sinnvolle Ideen für den Umgang mit einer Technologie, die großen Schaden anzurichten und weltweit noch größere Ungleichheit zu verschärfen droht, wenn sie nicht kontrolliert wird. Aber denjenigen, die sich von ihrer Arbeit ohnehin schon distanziert und entfremdet fühlen, dürfte es kaum Freude bereiten, denn sie werden noch einmal gefragt: „Warum gibst du es nicht einfach Claude?“