Andy Burnham muss die Regierungspolitik in Bezug auf KI ändern

Das bedeutet, das von Peter Mandelson geprägte aufzugeben, argumentiert Frank Hansen. 

Am 10. September verspottete Elon Musk die Behauptungen des ehemaligen Anthropic-Forschers Jacob Coxon, dass die Super-KI-Entwicklung („Frontier Models“) eine existenzielle Gefahr für die Menschheit darstelle. Coxon hatte Anthropic und OpenAI vorgeworfen, „direkt zur Selbstverbesserung und zur Superintelligenz zu rennen und unser Leben aufs Spiel zu setzen“, und eine Verlangsamung gefordert. Musk antwortete, dass es sich hierbei um eine Verschwörung oder einen PR-Gag handeln könnte, der mit Forderungen der Demokraten nach einer strengeren KI-Regulierung zusammenhängt.  

Es ist seltsam, dass Musk dies sagt, da er oft argumentiert hat, dass das durch KI verursachte Aussterben der Menschheit eine statistische Wahrscheinlichkeit sei, wobei die Wahrscheinlichkeit bekanntermaßen bei 10 bis 20 % liegt. Noch seltsamer ist vielleicht, dass Musk innerhalb weniger Tage einen Umschwung vollzog und gemeinsam mit Sam Altman von OpenAI und Demis Hassabis von Google DeepMind einen Aufruf von Anthropic-Chef Dario Amodie unterstützte, „das Tempo zu verlangsamen“, und warnte, dass ein KI-Bot-Schwarm in der Lage sein könnte, innerhalb eines Jahres „das gesamte Internet zu übernehmen“. Amodie forderte Washington auf, die Kontrolle über KI-Systeme zu koordinieren, auch international mit China.   

Unterdessen hielt Donald Trump an der Linie fest, dass es sich alles um eine „kranke Verschwörung“ handele und nur mit Volldampf das KI-Rennen mit China gewinnen könne. Er sagte, dass die einzige Leitplanke, die er brauche, er selbst sei, da er „stark und klug“ sei.  JD Vance mischte sich später mit seiner „Frankenstein-Rede“ ein und räumte ein, dass KI ein Problem sein könnte, sagte jedoch, dass Unternehmen das selbst in den Griff bekommen sollten: „Wenn Sie Frankenstein erschaffen wollen, treten Sie nicht zur Regierung und sagen Sie, wir brauchen Regulierung.“  Im Wesentlichen wollen diese beiden die derzeitige Politik der freiwilligen Selbstregulierung fortsetzen und sind gegen eine globale Regulierung der KI.

Angesichts der Forderungen nach einer Verlangsamung durch so unterschiedliche Menschen wie Bernie Sanders und Steve Bannon sowie des zunehmenden öffentlichen und lokalen Widerstands der Bundesstaaten gegen Hyperscale-Rechenzentren in den gesamten USA sehen diese vier Tech Bros jedoch die Notwendigkeit, in irgendeiner Weise darauf zu reagieren, und haben ihren „Entschleunigungspakt“ herausgegeben. Natürlich wissen wir, dass diese Oligarchen Hintergedanken haben und dass es schwierig ist, irgendetwas zu glauben, was sie sagen. 

Die gemeinsame Erklärung ist nicht gerade typisch für ihre früheren „herzlichen“ Beziehungen. Im Jahr 2015 gründeten Altman und Musk OpenAI und Amodie trat bald bei. Musk verließ das Unternehmen nach einem Machtkampf im Jahr 2018 und verklagte das Unternehmen anschließend erfolglos auf 150 Milliarden US-Dollar. Er gründete xAI und Grok im Jahr 2023. Amodei verließ das Unternehmen im Jahr 2020 mit der Begründung, dass es einen tiefgreifenden Vertrauensverlust gegenüber Altmans Führung gegeben habe, und gründete Anthropic.  Die drei führen nun konkurrierende Unternehmen an, die sich schnell von Versuchslaboren zu milliardenschweren US-amerikanischen KI-Firmen entwickelt haben, die zusammen mit META, Google und Apple in einem rücksichtslosen Wettlauf um die Kontrolle eines potenziell lukrativen Weltmarkts verwickelt sind. Es scheint sicherlich ein echter Krisenpunkt im KI-Rennen zu sein.

Bei dem Pakt geht es natürlich hauptsächlich um PR-„Zugeständnisse“ und kommerzielle Interessen. Steigende Forderungen nach Sicherheitsvorschriften stellen eine Bedrohung dar und sie möchten die Debatte so steuern, dass sie ihre Wettbewerbsfähigkeit oder zukünftige Rentabilität nicht beeinträchtigt. Sie wollen auch die Märkte beruhigen – OpenAI und Anthropic standen kurz vor dem Börsengang und der Ausgabe von Aktien mit der Hoffnung, bis zu 2 Billionen US-Dollar einzusammeln.  Altman hat bestätigt, dass das Problem jetzt im Jahr 2026 nicht mehr auftreten wird. Er ist ein sehr kluger PR-Mitarbeiter und hat sofort sechs weitere Beispiele für „unerwartetes oder besorgniserregendes“ Verhalten der OpenAI-Technologie offengelegt und gesagt, das Unternehmen führe einen neuen Rahmen für die Untersuchung und Offenlegung von „Fehlausrichtungen“ von KI-Modellen ein, der Begriff für KIs, die sich nicht an menschliche Werte und Sicherheitsziele halten. 

Gleichzeitig unterstützte OpenAIs Partner Microsoft zwar die dringende Notwendigkeit von Sicherheitskontrollen, kehrte jedoch zur kommerziellen Rivalität zurück, indem er einen starken Angriff auf seinen Hauptkonkurrenten Anthropic startete. Microsoft AI beschuldigte Anthropic, KI „als wäre sie menschlich“ zu entwickeln, was zur Entstehung einer neuen „Siliziumspezies“ führen könnte, die mit Menschen konkurriert und Technologien außerhalb unserer Kontrolle schafft. Das Problem ist, dass viele dieser oft fantastischen Behauptungen, die als „Doomerismus“ bekannt sind, im Silicon Valley weit verbreitet sind. Sie unterliegen keiner Überprüfung oder Begutachtung durch Fachkollegen und es ist unklar, ob diese „Aussterbebehauptungen“ auf echten wissenschaftlichen Beweisen beruhen oder aus Wettbewerbsvorteilen manipuliert wurden. 

Dennoch gibt es reale Gefahren, die unabhängige, durchsetzbare Sicherheitsvorschriften erfordern, bevor Modelle für die Öffentlichkeit freigegeben werden, und eine kontinuierliche Überwachung, um die Einhaltung sicherzustellen. Dies ist unerlässlich, wenn die enormen potenziellen Vorteile der KI im Interesse der Menschheit genutzt werden sollen.

Angesichts der Haltung von Trump wird dies in den USA nicht passieren. Big Tech hat die US-Bundesregierung davon überzeugt, aufgrund der „Bedrohung der nationalen Sicherheit“ (China) einen vorsichtigen Ansatz zu verfolgen. KI-Unternehmen sind trotz möglicher Risiken frühzeitig auf den Markt gegangen, um Produkte zu testen und zu verfeinern. Gemäß den Direktiven des Weißen Hauses, für die OpenAI Lobbyarbeit geleistet hat, reichen Unternehmen der Regierung freiwillig fortgeschrittene Modelle kurz vor der Veröffentlichung ein. Trotz des Hypes ist es wahrscheinlich, dass der „Entschleunigungspakt“ zu einer weiteren freiwilligen Selbstregulierungsvereinbarung mit der Regierung wird.  Ob es bei der Verhinderung zukünftiger Schäden wirksam sein wird, ist eine andere Frage.  

Andere Länder müssen zusammenarbeiten, um diese Risiken zu mindern. Im Vereinigten Königreich ist der Regulierungsrahmen schwach und basiert auf der Überzeugung, dass eine Allianz mit US-amerikanischen Big Tech für Wirtschaftswachstum sorgen wird. Diese Politik wurde von Peter Mandelson ins Leben gerufen, der den Ruf hatte, Sam Altman von OpenAI als seinen „Chef-KI-Kumpel“ zu behandeln. Als Botschafter in den USA führte Mandelson das Vereinigte Königreich von Sicherheitsvorschriften im EU-Stil weg und hin zu einem innovationsfreundlichen Ansatz. Im Februar 2025 wandte sich Mandelson ausdrücklich an Technologieminister Peter Kyle und empfahl ihm, „von vornherein von einer positiveren Sprache über KI zu profitieren, bevor man sich mit der Sicherheit befasst“. Dieser Ansatz beeinflusste die Starmer-Regierung, die Pläne für ein umfassendes KI-Gesetz verwarf und die Idee verbindlicher gesetzlicher „Kill-Switches“ für fortschrittliche KI-Modelle ablehnte, da sie davon ausging, dass präventive gesetzliche Verbote das Wirtschaftswachstum bremsen könnten.

Mandelson half auch bei der Vermittlung der Technologiepartnerschaft zwischen den USA und Großbritannien und vertrat die Auffassung, dass diese für die nationale Sicherheit und Verteidigung von entscheidender Bedeutung sei und dass das Vereinigte Königreich die KI-Integration beschleunigen sollte, anstatt sie durch übermäßige Regulierung zu behindern. Als Trump im September 2025 Großbritannien besuchte, unterzeichnete er mit Starmer einen „weltweit führenden Tech Prosperity Deal“. Bald darauf folgte eine strategische Partnerschaft zwischen dem Spionagetechnologie-KI-Unternehmen Palantir und dem Verteidigungsministerium. Es wurden Bedenken darüber geäußert, dass Palantir Kunde von Mandelsons Lobbyunternehmen Global Counsel war. Die Auswirkungen dieses Deals werden nun immer deutlicher, da die umstrittenen Aktivitäten von Palantir zunehmen und im ganzen Land KI-Hyperscale-Rechenzentren entwickelt werden.

Um der Bedrohung durch KI-Frontier-Modelle zu begegnen, richtete die Regierung das AI Security Institute (AISI) ein – eine Forschungs- und Bewertungseinrichtung. Es verfügt jedoch nicht über Regulierungsbefugnisse und Unternehmen sind gesetzlich nicht verpflichtet, ihre Modelle einzureichen. AISI arbeitet über „Goodwill“-Vereinbarungen mit KI-Technologielabors. Die Tatsache, dass Anthropic sich kürzlich geweigert hat, sein neuestes „Mythos“-Modell der AISI zur Prüfung vor der Veröffentlichung vorzulegen, zeigt die Grenzen dieses freiwilligen Ansatzes auf. Selbst wenn Technologieunternehmen kooperieren und die AISI kritische Sicherheitsmängel aufdeckt, gibt es keine Möglichkeit, das Unternehmen von der Vermarktung der Software abzuhalten.  Ein Beispiel ereignete sich während der Evaluierung von OpenAIs GPT-5.5. Die AISI identifizierte eine universelle „Jailbreak“-Schwachstelle, die die Cyber-Sicherheitsmaßnahmen des Modells umging. OpenAI veröffentlichte das Modell öffentlich, bevor die Schwachstelle behoben wurde. 

Der rechtliche Regulierungsrahmen des Vereinigten Königreichs ist in zahlreichen Gremien wie dem Information Commissioner, Ofcom, der Financial Conduct Authority und anderen stark fragmentiert. Diese konzentrieren sich erst auf die KI, wenn sie bereits eingesetzt wurde. Daher liegt die Last der KI-Sicherheit nach der aktuellen Rechtslage beim Einsatzort (den Unternehmen und öffentlichen Diensten, die die Technologie nutzen) und nicht bei den Unternehmen, die die Modelle entwerfen. 

Der Mangel an gesetzlicher Aufsicht hat zu dringenden Forderungen nach Reformen geführt. Der Gemischte Ausschuss für Menschenrechte (JCHR) des Parlaments veröffentlichte am 14. September einen äußerst kritischen Bericht, in dem er warnte, dass der fragmentierte Regulierungsrahmen des Vereinigten Königreichs völlig unbrauchbar sei, und forderte die Regierung auf, ein formelles KI-Gesetz vorzulegen.

Das Ergebnis der Mandelson-Starmer-Politik ist, dass US-amerikanische KI-Unternehmen das Vereinigte Königreich tendenziell als freundliches, formbares Tor nach Europa betrachten, sicherlich im Vergleich zur EU, die als übermäßig bürokratische Bedrohung für ihre Geschäftsmodelle angesehen wird, da sie sich für eine strenge Durchsetzung der Vorschriften einsetzt und gleichzeitig eine eigene KI-Infrastruktur aufbaut.

Dies ist eine kritische Zeit für die Regierung Burnham. Die Sicherheitskrise, die die Big Tech in den USA erfasst, gibt dem Vereinigten Königreich die Gelegenheit, seine KI-Politik und seine Beziehung zu den Big Tech in den USA grundlegend zu überprüfen. Die Regierung hat zwei Monate Zeit, um auf den JCHR-Bericht zu reagieren. Die Entscheidung, den freiwilligen Ansatz aufzugeben und einen robusten Rahmen für die KI-Regulierung einzuführen, wird ein entscheidender Test für die Bereitschaft des Landes sein, seinen Kurs zu ändern. 

Eine wirksame Regulierung der KI-Sicherheit ist dringend erforderlich, aber die Regulierung sollte sich nicht ausschließlich auf die Möglichkeit zukünftiger KI-Entweichungen und existenzieller Bedrohungen konzentrieren. Es gibt heute auf der Welt sehr reale KI-bezogene Bedrohungen, die die Regierung ebenfalls berücksichtigen muss:

Es wird nicht einfach sein, vom Starmer-Mandelson-Ansatz abzuweichen. Die Regierung muss auf der ganzen Welt, einschließlich des globalen Südens, der EU und Kanada/Australien, Bündnisse schließen, um unter der Schirmherrschaft der Vereinten Nationen eine wirksame, auf Regeln basierende Ordnung zu entwickeln.  

Es wird starken und anspruchsvollen Widerstand seitens der Big-Tech-Lobbyisten geben, die die Politik überhaupt erst „gelenkt“ haben. Palantir könnte sich bereits darauf vorbereiten, indem er Lord Tom Watson als Senior Vice President einstellt. Alex Karp, Vorstandsvorsitzender von Palantir, sagte: „Dies ist nur das jüngste Kapitel von Toms vierzigjährigem Kampf für bessere öffentliche Dienstleistungen. Wir haben das Glück, dass er uns an der Spitze steht, während wir der britischen Regierung dabei helfen, der britischen Öffentlichkeit etwas zu bieten.“  

Tom reiht sich in die Reihe anderer namhafter ehemaliger britischer Politiker ein, die ihre Dienste großen Technologieunternehmen angeboten haben – Nick Clegg (META), Rishi Sunak (Anthropic und Microsoft), George Osborne (OpenAI). Auch Sir Keir Starmers ehemaliger KI-Berater Matt Clifford ist Anthropic beigetreten. 

Frank Hansen ist ein ehemaliger Stadtrat im Londoner Stadtteil Brent.

Bild: https://www.picpedia.org/chalkboard/a/artificial-intelligence.html Lizenz: Creative Commons 3 – CC BY-SA 3.0 Namensnennung: Alpha Stock Images – http://alphastockimages.com/ Originalautor: Nick Youngson – Link zu – http://www.nyphotographic.com/ Originalbild: https://www.picpedia.org/chalkboard/a/artificial-intelligence.html