Der Chef des KI-Unternehmens Anthropic fordert aus Sicherheitsgründen eine Verlangsamung der Entwicklung

Diplomatie / 11. September 2026 Brics-Staats- und Regierungschefs treffen sich zum Gipfel in Neu-Delhi 11. September 2026 Naher Osten / 11. September 2026 Jemens Huthi-geführte Truppen übernehmen die Kontrolle über den strategischen Hafen am Roten Meer 11. September 2026 Vereinigte Staaten / 11. September 2026 USA begehen den 25. Jahrestag des Terroranschlags vom 11. September 2026 11. September 2026 Lateinamerika / 11. September 2026 First Lady Flores aus Venezuela beantragt Hausarrest, da sich ihr Herzleiden verschlimmert. 11. September 2026 Iran-Krieg / 11. September 2026 UN-Chef warnt vor Eskalation der Spannungen am Golf. 11. September 2026 Lateinamerika / 11. September 2026 Brasiliens Oberster Gerichtshof bricht Sitzung ab, da sich die politische Krise verschärft. 11. September 2026 Zentralafrika / 11. September 2026 Ebola-Ausbruch im Kongo sich ausbreiten, warnt Afrikas oberste Gesundheitsbehörde 11. September 2026 DER Chef des führenden US-amerikanischen Unternehmens für künstliche Intelligenz (KI), Anthropic, hat eine Verlangsamung der Entwicklung neuer Systeme gefordert, um den Sicherheitsmaßnahmen Zeit zu geben, aufzuholen.

Wenn die Branche nicht auf die Bremse tritt, warnte CEO Dario Amodei in einem Beitrag auf seiner Website, könnte KI innerhalb von sechs bis zwölf Monaten in der Lage sein, einen Schwarm von Agenten anzuführen, der das gesamte Internet übernehmen könnte.

Aufsichtsbehörden drängen den KI-Sektor seit Jahren, seine Entwicklung aus Sicherheitsgründen zu verlangsamen, doch der Druck hat in letzter Zeit zugenommen, da Branchenmitarbeiter zurücktreten und ihren Unternehmen vorwerfen, nicht verantwortungsbewusst zu handeln.

Herr Amodei schlug einen Plan zur Verstärkung der Kontrollen der Branche vor, von denen einige eine Koordinierung innerhalb der gesamten Branche und mit Regierungen auf der ganzen Welt erfordern würden.

„Ich glaube, wenn wir durch die Verlangsamung auch nur ein oder zwei zusätzliche Jahre gewinnen würden, bevor die Modelle ein kritisches Leistungsniveau erreichen, und wir diese Zeit nutzen würden, um die Ausrichtung voranzutreiben, könnten wir das Risiko, dass etwas ernsthaft schief geht, erheblich reduzieren“, sagte er.

Seit Jahren wächst die Besorgnis über eine mögliche Superintelligenz, die sich der Kontrolle der Menschheit entziehen könnte, sagte Anthony Aguirre, Präsident und Geschäftsführer des Future of Life Institute, der eine sechsmonatige Pause für die Entwicklung der Branche im Jahr 2023 forderte.

„Der Welt und sogar den KI-Unternehmen ist ziemlich klar geworden, dass sie nicht wirklich darauf vorbereitet sind, die KI-Systeme zu kontrollieren, die sie entwickeln wollen“, sagte er.

Anthropic sagte zwei Tage zuvor, dass es Versuche blockiert habe, seine KI-Modelle für böswillige Aktivitäten wie Cyberangriffe, Überwachung und Forschung zu nutzen, die zu biologischen Waffen hätten führen können.

Der Menschenrechtsbeauftragte der Vereinten Nationen, Volker Turk, forderte die Länder Anfang dieser Woche dazu auf, „eiserne Garantien für die Sicherheit von KI zu schaffen, bevor es zu spät ist“.

Big Tech / 21. August 2026 Minister müssen „den Griff kriegen“ und verhindern, dass KI-Rechenzentren besondere Baugenehmigungen erhalten, sagt die Grüne Partei. 21. August 2026 Big Tech / 23. Juli 2026 Der Milliardär hinter Trumps Überwachungsstaat 23. Juli 2026 Die größte Bedrohung für die Demokratie geht möglicherweise nicht mehr von politischen Parteien aus, sondern von nicht gewählten Tech-Oligarchen wie Peter Thiel und seinem mächtigen Silicon Valley-Netzwerk, argumentiert JOHN GREEN

Features / 4. April 2026 KI: die Bedrohung für die Menschheit 4. April 2026 Im zweiten und letzten Teil seines Artikels postuliert MIKE SCOTT, dass wir das Todesurteil für unsere Kinder und Enkelkinder unterzeichnen könnten, wenn wir die KI nicht kontrollieren, solange wir die Chance dazu haben