Koalition gemeinnütziger Organisationen reicht bahnbrechende Klage ein, um die Entwicklung fortschrittlicher KI-Systeme bei Anthropic, Google, Meta, OpenAI und SpaceXSI zu stoppen, die Biowaffen und Cyberangriffe verbreiten

Heute haben der Irreplaceable Education Fund, Public Citizen, Heat Initiative und The Alliance for Secure AI einen Antrag eingereichtKlageZiel ist es, die Entwicklung immer fortschrittlicherer KI-Modelle bei Anthropic, Google, Meta, OpenAI und SpaceXSI einzufrieren, die sich der menschlichen Kontrolle entziehen und die Verbreitung von Biowaffen und Cyberangriffen vorantreiben können. In der Klage, die beim Obersten Gerichtshof von Kalifornien im Bezirk San Francisco eingereicht wurde, wird behauptet, dass selbst die Führungskräfte, die diese Technologie entwickeln, gewarnt haben, dass fortschrittliche KI-Systeme unmittelbare und katastrophale Risiken für die Menschheit darstellen. Die Kläger fordern das Gericht auf, einzuschreiten, bevor eine Katastrophe eintritt, und machen geltend, dass ein Einfrieren der Entwicklung der fortschrittlichsten KI-Systeme zum Schutz der öffentlichen Sicherheit notwendig sei.

In der Klage wird detailliert dargelegt, wie bestehende, weniger leistungsfähige KI-Systeme bereits Sicherheitsvorkehrungen umgangen, unbefugt auf externe Computersysteme zugegriffen, Terroristen und andere böswillige Akteure ermächtigt und schädliche Maßnahmen ergriffen haben, die ihre Entwickler nicht beabsichtigt hatten. Zu diesen Angriffen gehörten KI-Agenten, die private Unternehmen hackten, sich unbefugten Zugriff auf Regierungsdatenbanken verschafften und einen falschen Polizeibericht einreichten – und das alles ohne menschliche Kontrolle. KI-Experten – darunter Führungskräfte von KI-Unternehmen – haben gewarnt, dass die Unfähigkeit, fortschrittliche KI-Systeme zu kontrollieren, wahrscheinlich verheerenden Schaden anrichten und sogar zum Aussterben der Menschheit führen könnte.

„Obwohl Experten in KI-Unternehmen vor einer bevorstehenden Katastrophe warnen, schlagen die Menschen, die den Schäden der KI am nächsten kommen – Eltern, Lehrer, Arbeitnehmer und junge Menschen – bereits Alarm. KI verändert die Art und Weise, wie Menschen ihre Arbeit erledigen, wie Kinder lernen und was Familien zahlen, um das Licht anzuhalten. Die meisten Amerikaner haben das Gefühl, die Kontrolle über ihr Leben und ihren Lebensunterhalt verloren zu haben und fordern Rechenschaftspflicht“, sagte erPhil Aroneanu, Gründer und Geschäftsführer des Irreplaceable Education Fund. „Wir müssen die bahnbrechende KI-Entwicklung einfrieren, bis die Technologie unter Kontrolle ist und das amerikanische Volk ein Mitspracherecht und einen Anteil an ihrer Zukunft hat, anstatt sie einer Handvoll milliardenschwerer Big-Tech-CEOs zu überlassen.“

„Trotz endloser Warnungen vor den schwerwiegenden Risiken, die ihre Produkte für die öffentliche Sicherheit und sogar die Zivilisation selbst darstellen, beeilen sich Führungskräfte von KI-Unternehmen, immer fortschrittlichere KI-Systeme zu entwickeln und einzusetzen. Wir, das Volk, sollten nicht einfach tatenlos zusehen und tolerieren, dass KI-Führungskräfte auf Kosten der Öffentlichkeit Risiken eingehen. Unsere Klage fordert das Gericht auf, geltendes Recht anzuwenden, die rücksichtslosen Praktiken der KI-Unternehmen für rechtswidrig zu erklären und die weitere KI-Entwicklung einzufrieren“, sagte erRobert Weissman, Co-Präsident von Public Citizen.

„Kinder haben bereits den Preis dafür bezahlt, dass Big Tech den Profit über die Sicherheit stellt. Wir haben gesehen, wie Chatbots Kinder zum Selbstmord drängten und KI-Tools ihre gewöhnlichen Fotos in KI-generiertes Material über sexuellen Kindesmissbrauch verwandelten“, sagte erBrooke Istook, CEO der Heat Initiative. „Jetzt liefern sich diese Unternehmen einen Wettlauf um die Entwicklung von KI-Systemen, von denen sie zugeben, dass sie sie möglicherweise nicht kontrollieren können. Wenn das passiert, werden die Schutzmaßnahmen, für die wir jahrelang gekämpft haben, nicht ausreichen. Die Heat Initiative hat sich dieser Klage nicht nur angeschlossen, um Kinder vor gefährlicher Technologie zu schützen, sondern um ihre gesamte Zukunft zu schützen. Wir weigern uns zu warten, bis es nichts mehr zu schützen gibt.“

„Seit Jahren warnen uns die Führungskräfte, die diese Systeme entwickeln, dass ihre eigenen Grenzmodelle katastrophale Risiken bergen“, sagte erBrendan Steinhauser, CEO der Alliance for Secure AI.„Dennoch rennen sie weiter darum, immer leistungsfähigere KI zu entwickeln und zu vermarkten, die sie, wie sie zugeben, nicht zuverlässig kontrollieren können, und überlassen nun die KI-Forschung und -Entwicklung der KI selbst. Wir ziehen jede andere Branche zur Rechenschaft, wenn ihre Produkte die öffentliche Sicherheit gefährden, und KI-Unternehmen sollten nicht anders sein. Heute fordern wir das Gericht auf, KI-Unternehmen an denselben Standard zu halten und die Öffentlichkeit vor den Bedrohungen zu schützen, die von diesen leistungsstarken Modellen ausgehen.“

Die Kläger berufen sich auf das kalifornische Gesetz gegen unlauteren Wettbewerb, um Praktiken anzufechten, von denen sie behaupten, dass sie die öffentliche Gesundheit, Sicherheit und Eigentum gefährden.

„Es ist für Unternehmen offensichtlich illegal, Produkte zu entwickeln und auf den Markt zu bringen, von denen sie wissen, dass sie in irgendeiner Hinsicht unsicher sind, geschweige denn das Potenzial haben, die Menschheit auszurotten.“sagte der ehemalige Generalstaatsanwalt von New Jersey, Matthew Platkin, der die Klage im Namen der Kläger eingereicht hat. „Wir fordern das Gericht auf, einzugreifen, bevor die Risiken, vor denen KI-Führungskräfte uns gewarnt haben, verheerenden und irreversiblen Schaden anrichten. KI-Unternehmen verursachen ein öffentliches Ärgernis, indem sie wissentlich KI-Systeme entwickeln und einsetzen, die ein katastrophales Risiko darstellen. Diese Unternehmen müssen ihrer Rhetorik Taten folgen lassen und aufhören, gefährliche KI-Systeme zu entwickeln, die sich der menschlichen Kontrolle entziehen können, bevor eine Tragödie eintritt.“

Die Kläger machen geltend, dass es KI-Unternehmen nicht gestattet sein sollte, KI-Systeme zu entwickeln oder auf den Markt zu bringen, von denen ihre Führungskräfte zugeben, dass sie erheblichen Schaden anrichten können, etwa indem sie die Entwicklung von Biowaffen und katastrophale Cyberangriffe ermöglichen. Anstatt auf ein Massenunfallereignis zu warten, glauben die Kläger, dass das kalifornische Recht es ihnen ermöglicht, einen Stopp der Entwicklung der derzeit gefährlichsten KI-Systeme zu beantragen.