Politics Novara Media
Rogue-KI muss 50 Leben bedrohen, bevor sie abgeschaltet wird, schlägt Anthropic vor
Anthropic drängt auf Gesetze, die es der US-Regierung nur erlauben würden, ein betrügerisches KI-Modell abzuschalten, wenn mindestens 50 Menschen in Gefahr sind, unmittelbar ernsthaften Schaden zu erleiden oder zu sterben. Die KI-Firma war still
English (original) ·Auto-translated to Deutsch
Anthropic drängt auf Gesetze, die es der US-Regierung nur erlauben würden, ein betrügerisches KI-Modell abzuschalten, wenn mindestens 50 Menschen in Gefahr sind, unmittelbar ernsthaften Schaden zu erleiden oder zu sterben.
Das KI-Unternehmen hat sich im Stillen beim Kongress für die Annahme seines Gesetzesentwurfs eingesetzt, von dem eine Kopie vorliegtPolitisch.
Unter der Rechnung, kann eine staatlich angeordnete „Sperranordnung“ auch dann ausgelöst werden, wenn das Risiko besteht, dass ein KI-Modell Sachschäden in Höhe von mindestens 1 Milliarde US-Dollar (750 Millionen Pfund) verursacht.
Die im Entwurf dargelegten Regeln würden die US-Bundesstaaten daran hindern, strengere Sicherheitsgesetze durchzusetzen, und es den Gerichten erschweren, gefährliche KI-Systeme zu bremsen.
Sie legen eine hohe Schwelle für ein Eingreifen des Bundes im Falle eines möglichen „katastrophalen Schadens“ fest.
Bundesbeamte müssten beispielsweise vor dem Eingreifen sicherstellen, dass die von KI ausgehende Bedrohung „unmittelbar“ sei und dass keine Alternative eine Katastrophe verhindern könne.
In einemSubstack-BeitragZvi Mowshowitz, ein Autor, der sich auf KI konzentriert, beschrieb dies als „absurd hohe Messlatte“.
Im Gesetzentwurf heißt es: „Der Begriff ‚Katastrophenrisiko‘ bezeichnet ein vorhersehbares und wesentliches Risiko, dass die Entwicklung, Lagerung, Verwendung oder Bereitstellung eines Grenzmodells durch einen Grenzentwickler wesentlich zum Tod oder zu schweren Verletzungen von mehr als 50 Menschen oder zu mehr als 1 Milliarde US-Dollar an Sachschäden aufgrund eines einzelnen Vorfalls beitragen wird.“
KI-Sicherheitsexperten, darunterNathan Calvin,Nat PurserUndNate Soareshaben gewarnt, dass ein solcher Gesetzentwurf bestehende Schutzmaßnahmen schwächen und gleichzeitig die Bundesaufsicht einschränken würde.
Mowshowitz sagte, der Gesetzentwurf würde die Sicherheit der Menschen beeinträchtigen, als wenn der Gesetzgeber „nichts“ unternehmen würde. Er argumentierte, dass Anthropic anscheinend mehr daran interessiert sei, dass die Regierung Sicherheitsvorschriften durchsetzt, als sicherzustellen, dass sie die Macht hat, die gesamte KI-Industrie zur Rechenschaft zu ziehen.
Anthony Cimino, Leiter der Bundesabteilung bei Anthropic,sagte auf Xdass die Formulierung der Risikoschwellen im Entwurf „direkt aus bestehenden Standards des kalifornischen Rechts übernommen“ wurde und weder Unternehmen von ihrer Haftung befreien noch die Regierung daran hindern würde, andere ihr zur Verfügung stehende Instrumente zum Schutz der Öffentlichkeit zu nutzen.
Er räumte jedoch ein, dass es möglicherweise „an der Zeit sei, die Schwellenwerte neu zu bewerten, um sicherzustellen, dass der nationale Standard so streng wie möglich ist“.
Letzten Monat der ehemalige Anthropic-Mitarbeiter Jacob Coxonwarnte davor, dass KI die Menschheit innerhalb eines Jahrzehnts auslöschen könnte.
Die Kommentare des Forschers lösten eine Reihe ähnlicher Warnungen anderer KI-Kollegen aus. Beobachter haben jedoch Zweifel an den Behauptungen geäußert, wie Jeremy Kahn, Herausgeber von Fortune AI, feststellte, und einige betrachteten sie als „zynischer Trick … mit dem Ziel, Regulierungsbehörden und die Öffentlichkeit von den realen und konkreten Risiken abzulenken, die bereits bestehen“.