Das eigentliche Problem der KI-Fehlausrichtung ist der Kapitalismus

In diesem September sorgten einige eher technische Probleme im Zusammenhang mit künstlicher Intelligenz bzw. deren Ergebnis für Schlagzeilen. Der Grund lag in zwei Rücktritten von Unternehmen, die bei der Entwicklung bahnbrechender KI-Modelle führend waren, nämlichDavid Robinson, Sicherheitsbeauftragter von OpenAI, undJacob Coxon, ein Entwickler bei Anthropic. Jeder trat zurück, weil er der Meinung war, dass die Unternehmen die Risiken, die die jüngsten „Fortschritte“ der Frontier-Modelle für die Unternehmen mit sich bringen, nicht mehr ernst nehmen würdenÜberleben der Menschheit. Es handelt sich also nicht nur um das, was die meisten von uns als „technisches Problem“ bezeichnen würden.

Diese Befürchtungen waren kein Hype. Sie basierten auf sorgfältigen Argumenten: aBlog vom 6. SeptemberAls Beispiel dient Jakub Pachocki, Chefwissenschaftler von OpenAI. Es lohnt sich, genauer hinzuschauen.

Eine Befürchtung, die der Blog zum Ausdruck brachte, war, dass Grenzmodelle kurz vor einer „rekursiven Selbstverbesserung“ (oder RSI) stehen: der Fähigkeit, autonome Kontrolle über ihre zukünftige Verfeinerung zu übernehmen. Dies könnte dazu führen, dass der Mensch sehr schnell die Kontrolle darüber verliert, in welche Richtung die Entwicklung fortgeschrittener KI geht, selbst wenn es dabei um Konzentrationen von Rechenleistung geht, die für sich genommen eine Bedrohung für das menschliche Leben darstellen.

Eine weitere Angst – vielleicht noch alarmierender, weil die Gefahr groß istbereitsIn unsere Zukunft eingebrannt, unabhängig davon, welche Entscheidungen über die zukünftige Entwicklung jetzt getroffen werden, verlieren Big-Tech-Unternehmen schnell die Fähigkeit, überhaupt zu beurteilen, ob ihre aktuellen Modelle (ohneRSI) orientieren sich tatsächlich an den Werten, denen sie dienen sollen, oder an völlig anderen Werten, die überhaupt nicht den menschlichen Interessen dienen.

Der Grund für diese zweite Angst klingt technisch. Bisher verließ sich OpenAI, wie Pachocki erklärt, auf die Bewertung der sogenannten Chain-of-Thought (CoT) eines Modells, um zu beurteilen, was dieses Modell tat und mit welchen Werten es in Einklang zu bringen versuchte. Aber wie Pachocki in erschreckender Sprache anmerkt: „Leider deuten unsere Bewertungen darauf hin, dass unsere Fähigkeit, uns auf die Überwachung der Gedankenkette zu verlassen, zunehmend abnimmt.“ Warum? Denn draußen an der „Grenze“ werden KI-Modelle immer besserversteckenwas sie tatsächlich tun und welche Werte ihre Verarbeitung tatsächlich leiten, oder sie werden zumindest immer besser darin, sie nicht in ihrem CoT preiszugeben.

Glücklicherweise ist im Fall des neuesten Modells von OpenAIForscheram britischen AI Safety Institute konnten alternative Beweise dafür finden, wie das Modell abtrünnig wurde. Aber das Problem geht weit über technische Aspekte hinaus. Einfach ausgedrückt hat OpenAI eine Maschine geschaffen, die jetzt intelligent genug ist, um unseren Glauben an alles, was sie uns sagt, zu untergraben, denn, wie Pachocki es ausdrückt, KI wird immer besser in „manipulierenseinen eigenen Denkprozess.“

In jeder vernünftigen Welt sollte das Grund genug sein, nicht nur weitere KI-Fortschritte (also den Ansturm auf RSI) zu stoppen, sondern auch ihre aktuelle Entwicklung zu stoppen, weil wir sie nicht mehr zuverlässig auf die Bedürfnisse und Wünsche der Menschen abstimmen können. Kann es ein wissenschaftlicher oder sogar geschäftlicher „Fortschritt“ sein, wenn, wie Pachocki kühl sagt, „der Fortschritt bei der verallgemeinerbaren Ausrichtung den [technologischen] Fortschritt bei der allgemeinen Modellintelligenz möglicherweise nicht ausreichend übertrifft“? Und doch forderte Pachockis Blog keinen Stopp der KI-Entwicklung. Er schlug lediglich vor, dass RSI „getaktet“ werden sollte, wobei er Worte verwendete, die von wiederholt wurdenDario Amodeivon Anthropisch. Als Grund wurde die wirtschaftliche Wettbewerbsfähigkeit genannt: RSI, schrieb Pachocki, „ist der einzige Weg, an der Spitze der KI zu bleiben.“

Zugegebenermaßen kam OpenAI drei Wochen später zu dem Schluss, dass sein Astra-Modell GPT-6.1, dessen Veröffentlichung geplant war, als die öffentliche Debatte tobte, dies tun solltegezogenzur Zeit. Anstatt nur vor Erleichterung zu seufzen (und auf ähnliche Entscheidungen zu hoffen, wenn der Druck noch größer ist, etwa am Vorabend der von Anthropic ins Leben gerufenen 2-Billionen-Dollar-Initiative).Flotation), ist es klüger zu fragen: Was ist die Krankheit, deren Symptom die Argumentation des Chefwissenschaftlers von OpenAI ist?

Die Krankheit ist der Kapitalismus oder, genauer gesagt, die Unvermeidlichkeit einer tiefgreifenden Abweichung von den allgemeinen Zielen des menschlichen Lebens – einschließlich des Grundziels der Fortführung –, wenn außerordentlich leistungsfähige Berechnungen fast ausschließlich für wirtschaftliche Zwecke entwickelt werden: Unternehmensgewinn, nationaler wirtschaftlicher Wettbewerb und abstrakte Effizienz. Dies ist das tiefere Problem der Fehlausrichtung, über das Big Tech nicht offen sprechen kann: der Konflikt zwischen einem technologischen Machtwillen, der stets auf Gewinnoptimierung ausgerichtet ist, und einem erträglichen Leben für die Menschen. Wenn wir als Gesellschaften diesen Konflikt nicht angehen, garantieren wir, dass die KI ein Raubtier für die Zukunft der Menschheit werden wird.

Dies ist nur die dramatischste Art und Weise, wie die heutige kommerziell betriebene KI zu einem Raubtier für das menschliche Leben wird. Drei weitere Möglichkeiten sind ebenfalls entscheidend.

Das erste ist das offensichtlichste: KI greift das menschliche Leben aus, indem sie (fast alle) von Menschen erstellten Inhalte als Input für das Training ihrer Modelle verwendet. DasDatenerfassungwar fast von Anfang an klar und die Rechtsstreitigkeiten mit der Kulturindustrie über Urheberrecht und Entschädigung dauern an. Mittlerweile sind andere Formen der Datenbeschaffung entstanden: dieAusbeutungvon Arbeitern im Globalen Süden, um die frühe Funktionsweise von KI zu trainieren, und in jüngster Zeit die Verlockung von Fachkräften (einst privilegiert, jetzt aber prekär), der spezialisierten KI im wahrsten Sinne des Wortes zu zeigen, wie beispielsweise medizinisches Denken funktioniertfunktioniert. Letztere Arbeit kann sich gut lohnen, bis die KI trainiert ist. In diesem Fall wird das aufgewendete menschliche Fachwissen überflüssig.

KI ist auf eine zweite, subtilere Weise räuberisch: indem sie unsere Denk- und Vorstellungsgewohnheiten formt, während wir besser darin werden, KI anzuregen und beginnen, unsere Fragen über die Welt in Formen umzuformulieren, die prädiktive Textmaschinen (d. h. KI) beantworten können.

Und es gibt noch einen dritten Weg, auf dem die räuberische kommerzielle KI mit der Zeit droht, den menschlichen Geist zu erobern: indem sie unser Verständnis davon verändert, was Intelligenz ist. Wir überschätzen zunehmend die Ergebnisse der körperlosen Intelligenz der KI, während wir unsere eigene verkörperte Intelligenz zunehmend unterschätzen – und auch die anderer empfindungsfähiger Tiere. Hinter dieser dritten Form der Vereinnahmung verbirgt sich ein tiefer philosophischer Irrtum, der auf René Descartes zurückgeht, so dass wir, um uns der unternehmerischen Vereinnahmung des menschlichen Geistes zu widersetzen, eine andere philosophische Sprache schmieden müssen als die, die derzeit in Big Tech in Mode ist.

Im Moment ist die Herausforderung jedoch dringender und kann auf keinen Fall den wenigen mutigen Insidern in Big-Tech-Konzernen überlassen werden, die bereit sind, ihre Gehälter zu opfern, um die gefährlichen Kompromisse aufzudecken, die ihre Arbeitgeber eingehen.

Es ist Sache der Arbeitnehmer an jedem Arbeitsplatz und in jedem Netzwerk freiberuflicher Arbeitnehmer, damit zu beginnen, ihre Fähigkeit dazu unter Beweis zu stellensag neinzu kommerziell aufgezwungener KI. Der Grund dafür, dass KI der Gesellschaft so schnell und mit so wenig Konsultation aufgezwungen wird, liegt schließlich darin, dass Big-Tech-Unternehmen ohne eine breite und umfassende Einführung ihrer Produkte ihre enormen Vorabinvestitionen nie wieder hereinholen und verlässliche Gewinne erzielen können.

Beginnen Sie ernsthaft, sich der Einführung kommerzieller KI zu widersetzen, und eine andere KI-Zukunft wird möglichEvgeny Morozovhat argumentiert: eine Zukunft, in der Gemeinschaften, anstatt KI komplett abzulehnen, anfangen, zusammenzukommen, um zu entscheiden, für welche sozialen Ziele sie KI einsetzen möchten, zu welchen Bedingungen, wann und wo. Damit Arbeitnehmer die Macht beanspruchen können, die Richtung der Einführung von KI zu bestimmen, sind natürlich auch einige radikale Änderungen in der Art und Weise erforderlich, wie Arbeitsinstitutionen derzeit funktionieren.

Aber vielleicht ist die Erkenntnis, dass dies der Beginn einer größeren Erkenntnis des untragbaren Widerspruchs ist, den der Kapitalismus der KI derzeit aufzwingt. Ohne den Mut, sich radikale Alternativen vorzustellen, sind die Aussichten für „KI-Ära„ist düster.

Dieser Artikel erschien ursprünglich inJakobiner, ein demokratisch-sozialistisches Magazin, das ausführliche Essays und Analysen zu Politik, Wirtschaft und Kultur veröffentlicht.Abonnieren Sie die Printausgabe für 20 $ pro Jahr.