Künstliche Intelligenz: Staatschefs fordern Regeln für menschliche Kontrolle

afp | Im Vorfeld der UN-Generaldebatte haben Bundeskanzler Friedrich Merz (CDU) und 17 weitere Staats- und Regierungschefs einen Aufruf für verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle unterzeichnet. Solche Systeme würden bei unzureichender Kontrolle „ernste Risiken für Sicherheit und Schutz“ bergen, heißt es in der Erklärung.

Künstliche Intelligenz (KI) müsse „unter menschlicher Leitung, Aufsicht und Kontrolle“ bleiben, fordern die Unterzeichner weiter. Unternehmen sollten unter anderem zu Tests, unabhängigen Prüfungen und transparenten Sicherheitsprotokollen verpflichtet werden.

Zur Begründung verweisen die Unterzeichner auf jüngste Fälle, in denen leistungsfähige KI-Systeme Schutzmechanismen umgingen, Schwachstellen ausnutzten und sich unbefugt Zugang zu realen Computersystemen verschafften. Die rasante Entwicklung könne die Möglichkeiten überholen, neu entstehende Risiken zu kontrollieren.

Zu den insgesamt 22 Unterzeichnern der Erklärung gehören neben Merz unter anderem die Staats- und Regierungschefs von Australien, Dänemark, Finnland, Kanada, den Niederlanden, Norwegen, Singapur und Spanien. Zudem schlossen sich ihr EU-Kommissionspräsidentin Ursula von der Leyen sowie die Außenminister aus Bahrain, der Türkei und den Vereinigten Arabischen Emiraten an. Initiiert wurde der Aufruf von Finnlands Präsident Alexander Stubb und Norwegens Ministerpräsident Jonas Gahr Störe.

Die USA, China, Großbritannien, Frankreich, Japan und Indien sind bislang nicht unter den Unterzeichnern. Die Erklärung bleibt für weitere Unterzeichner offen.

In der Erklärung heißt es weiter, die UN-Mitgliedstaaten sollten die Schaffung einer internationalen Institution prüfen, die Standards setzen, deren Einhaltung überprüfbar machen und Staaten bei Überschreiten bestimmter Leistungsgrenzen zusammenrufen könnte.

Die UN-Generaldebatte in New York beginnt am Dienstag.