Ein außer Kontrolle geratener Wettlauf zur Superintelligenz, der noch immer zügellos ist, bringt die Menschheit in Schach

Der heutige Wettlauf um künstliche Intelligenz hat etwas zutiefst Absurdes: Einige der Menschen, die die potenzielle Gefahr am besten verstehen, sitzen in den Labors und rasen auf sie zu.

Wir sprechen hier nicht von Technologiepropheten, die aus einer Kabine schreiben, oder von Amateuren, die Angst vor ChatGPT haben. Wir sprechen von Pionier-KI-Forschern, Menschen, die die Modelle trainieren, ihr Verhalten untersuchen, versuchen, ihre Ausrichtung zu lösen und die Fähigkeiten, die mit zunehmender Skalierung entstehen, aus dem Inneren zu kennen. Und einige von ihnen sagen etwas Außergewöhnliches: Wir bauen möglicherweise Systeme auf, deren Kontrolle wir nicht garantieren können.

Jacob Coxon hat Anthropic gerade verlassen, nachdem er auch bei OpenAI gearbeitet hatte. Seine Anschuldigung verdient es, ohne die apokalyptische Pyrotechnik bestimmter Schlagzeilen gelesen zu werden: Er argumentiert, dass beide Unternehmen auf dem Weg zu einer sich selbst verbessernden Superintelligenz seien und dass sie „mit unserem Leben spielen“.

Was danach geschah, ist wirklich unangenehm.

Evan Hubinger, ein Forscher, der weiterhin bei Anthropic arbeitet, unterstützte öffentlich einen wesentlichen Teil der Warnung. Er persönlich schätzt seiner Aussage zufolge eine Wahrscheinlichkeit von mehr als 10 % ein, dass KI innerhalb des nächsten Jahrzehnts zum Aussterben der Menschheit führen wird. Und er erkennt etwas noch Wichtigeres an: Es gibt derzeit keinen nachgewiesenen Plan, der das Ausrichtungsproblem einer zukünftigen Superintelligenz löst.

Lassen Sie uns hier aufhören.

Mehr als zehn Prozent.

Wenn ein Luftfahrtingenieur sagen würde, dass die Wahrscheinlichkeit, dass ein Flugzeug alle Passagiere tötet, bei mehr als zehn Prozent liegt, würde niemand darüber streiten, ob der richtige Prozentsatz bei zehn, neun oder zwölf liegt. Das Flugzeug würde nicht starten.

Aber wenn es sich bei dem experimentellen Objekt um eine potenziell planetarische Technologie handelt, scheinen wir eine neue Ethik erfunden zu haben: Zuerst heben wir ab und dann versuchen wir, die Flügel zu bauen.

Die moralische Obszönität liegt nicht in der Erforschung künstlicher Intelligenz. Es liegt auch nicht darin, automatisch davon auszugehen, dass die Aussterbehypothese wahr ist, die genau das bleibt: eine extreme und umstrittene Hypothese, kein wissenschaftlich nachgewiesenes Ergebnis.

Die Obszönität beginnt woanders.

Es beginnt, wenn jemand ernsthaft glaubt, dass die Wahrscheinlichkeit einer irreversiblen Katastrophe groß ist, und es dennoch für akzeptabel hält, die Leistungsfähigkeit des Systems weiter zu verbessern, während er darauf wartet, dass eine andere Abteilung das Kontrollproblem löst.

Hier stellt sich eine Frage, die weitaus unangenehmer ist als jede Fantasie über Killerroboter:

Welche Verantwortung tragen Forscher?

Denn „Ich forsche nur“ ist ein Satz, den die Wissenschaftsgeschichte schon zu oft gehört hat.

Die moralische Verantwortung verschwindet nicht, weil eine Organisation die Arbeit in Teams, Benchmarks (standardisierte Tests), Sicherheitsabteilungen, Autorisierungsebenen und Vertraulichkeitsvereinbarungen unterteilt hat. Durch bürokratische Fragmentierung kann eine Aufgabe verteilt werden. Es verteilt seine Folgen nicht auf magische Weise.

Wenn diejenigen, die über privilegiertes technisches Wissen verfügen, wirklich glauben, dass wir uns einer möglicherweise unkontrollierbaren Schwelle nähern, ist Schweigen keine Neutralität mehr.

Es wird eine Entscheidung.

Und weiterarbeiten tut es auch.

Natürlich gibt es in diesen Unternehmen Forscher, weil sie eine Katastrophe verhindern wollen. Dies ist ein wesentlicher Unterschied. Anthropic wurde zu einem großen Teil mit dem Problem der KI-Sicherheit ins Leben gerufen und unterhält Teams, die sich der Ausrichtung, Interpretierbarkeit und Risikobewertung widmen. Es wäre intellektuell nicht seriös, den Forscher, der Schutzmaßnahmen aufbauen will, und die Führungskraft, die ein kommerzielles Rennen gewinnen will, in einen Topf zu werfen.

Aber wir können das perfekte Paradoxon auch nicht auf unbestimmte Zeit akzeptieren:

„Wir müssen weiterhin eine immer leistungsfähigere Maschine bauen, denn wir brauchen eine immer leistungsfähigere Maschine, um zu erforschen, wie wir verhindern können, dass die immer leistungsfähigere Maschine gefährlich wird.“

Irgendwann fängt die Argumentation an, sich selbst in den Schwanz zu fressen.

Und dann taucht die andere Frage auf. Das Unangenehmste.

Wer hat dieses Glücksspiel autorisiert?

Ich tat es nicht.

Du hast es wahrscheinlich auch nicht getan.

Keine Weltversammlung hat darüber abgestimmt, wie viel Prozent des Aussterberisikos sie für akzeptabel hält. Es gab kein planetarisches Referendum. Es gibt kein Menschheitsparlament, das entschieden hat, dass 1 %, 5 % oder 10 % ein angemessener Preis für die Erlangung künstlicher allgemeiner Intelligenz sind.

Doch eine Handvoll privater Unternehmen verfügen über die Chips, die Rechenzentren, die Modelle, einen Großteil des wissenschaftlichen Talents und die Milliarden von Dollar, die nötig sind, um die Grenzen voranzutreiben.

Die Menschheit setzt den Planeten aufs Spiel.

Sie platzieren die Wette.

Und so kommen wir zu einem politisch legitimen Verdacht, den wir aber gerade als Verdacht formulieren und nicht als erwiesene Tatsache verschleiern müssen.

Die Wirtschafts- und Technologieeliten haben Plan Bs.

Wir wissen, dass einige Milliardäre abgelegene Grundstücke gekauft, außerordentlich anspruchsvolle Unterkünfte gebaut oder offen über private Überlebensstrategien im Angesicht von Katastrophen gesprochen haben. Dieses Phänomen wurde schon lange vor der aktuellen KI-Explosion dokumentiert.

Was wir nicht wissen – und ohne Beweise auch nicht behaupten sollten – ist, ob die Führungskräfte der großen Unternehmen für künstliche Intelligenz über einen koordinierten Plan verfügen, um eine durch ihre eigenen Systeme verursachte Katastrophe zu überleben.

Aber die bloße Existenz radikaler Überlebensungleichheit wirft ein gewaltiges politisches Problem auf.

Denn auch ohne Verschwörung werden Risiken nicht demokratisch verteilt.

Jemand, der Hunderte von Millionen oder Milliarden besitzt, kann Land, unabhängige Energie, Wasser, private Sicherheit, Satellitenkommunikation, unterirdische Anlagen, internationale Mobilität und logistische Redundanzen erwerben.

Der Großteil der Menschheit hat eine Tür mit einem Schloss.

Deshalb bedarf die Frage keiner Verschwörung.

Ohne sie ist es schlimmer.

Was passiert, wenn diejenigen, die Entscheidungen treffen, die zu Risiken für den Planeten führen können, eine unvergleichlich größere Fähigkeit haben, sich vor den Folgen dieser Entscheidungen zu schützen?

Hier stoßen wir auf ein klassisches Problem des Moral Hazard: Wer entscheidet, wie viel Risiko er eingeht, ist nicht unbedingt der gleichen Gefährdung ausgesetzt wie diejenigen, denen der Schaden zugefügt wird.

Der Arbeiter in Dhaka, der Lehrer aus Valparaíso, der Bauer im Senegal oder eine Familie in Gaza besitzen keine Anteile an Anthropic, OpenAI oder Google DeepMind. Sie nahmen nicht an ihren Verwaltungsräten teil. Sie haben das Tempo, mit dem ihre Modelle trainiert werden, nicht gewählt. Sie kennen ihre internen Sicherheitsbewertungen nicht.

Aber sie würden die Konsequenzen tragen, wenn das Worst-Case-Szenario jemals wahr würde.

Und es gibt noch etwas noch Perverseres.

Der Wettbewerb zwischen Unternehmen kann selbst vernünftige Menschen in Akteure einer irrationalen Dynamik verwandeln.

OpenAI kann nicht aufhören, weil Anthropic möglicherweise die Nase vorn hat.

Anthropic kann nicht aufhören, weil Google DeepMind möglicherweise die Nase vorn hat.

Google kann nicht aufhören, weil China möglicherweise die Nase vorn hat.

Die Vereinigten Staaten können nicht aufhören, weil China möglicherweise weiterkommt.

China kann nicht aufhören, weil die Vereinigten Staaten vielleicht weiterkommen könnten.

Und so kommen wir zum perfekten Mechanismus kollektiver Verantwortungslosigkeit:

Jeder weiß, dass es ratsam wäre, langsamer zu werden, aber niemand kann langsamer werden, weil niemand darauf vertraut, dass die anderen das Gleiche tun.

Wir brauchen keine rebellische künstliche Intelligenz, um dieses Phänomen zu verstehen.

Der Mensch hat es vor langer Zeit erfunden.

Man nennt es ein Wettrüsten.

Der Unterschied ist beunruhigend: Während des nuklearen Wettrüstens wussten die Regierungen ungefähr, was eine Bombe ist, was sie zerstört und wie Abschreckung funktioniert.

Hier diskutieren die Spezialisten selbst darüber, welche Fähigkeiten wann entstehen und ob wir sie anschließend kontrollieren können.

Wir rasen auf etwas zu, dessen endgültige Form wir nicht kennen, während diejenigen, die das Lenkrad innehaben, zugeben, dass sie immer noch die Bremsen entwerfen.

Und genau deshalb ist Coxons Rücktritt wichtig.

Nicht, weil er gezeigt hat, dass wir alle im Jahr 2030 sterben werden.

Das hat er nicht nachgewiesen.

Es ist wichtig, weil es einen moralischen Trost zerstört.

Es zwingt diejenigen, die drinnen bleiben, dazu, eine Frage zu beantworten, die nicht mehr durch Papiere, Unternehmenserklärungen oder neue „Sicherheits“-Abteilungen gelöst werden kann:

Wenn Sie wirklich glauben, dass eine erhebliche Wahrscheinlichkeit besteht, dass das, was Sie bauen, der menschlichen Kontrolle entgehen könnte, welches Gefahrenniveau müsste dann erreicht sein, bevor Sie sich weigern, es weiter zu bauen?

Zwanzig Prozent?

Fünfzig?

Neunzig?

Wo ist die Linie?

Denn wenn es keine Linie gibt, dann gibt es auch kein wirkliches Vorsorgeprinzip.

Es gibt nur ein Rennen.

Ein rasanter Wettlauf zur Superintelligenz, der noch immer keine Zügel hat, angetrieben von Unternehmen, die um den ersten Platz konkurrieren, und beobachtet von Forschern, die hin und wieder aus dem Gebäude treten, um uns zu warnen, dass das Fahrzeug möglicherweise keine Bremsen hat.

Das Problem ist, dass auch wir mit an Bord sind.

Außer, dass uns niemand fragte, ob wir einsteigen wollten.

Claudia Aranda