KI-Forscherin Theresa Züger: „Das Hauptproblem ist die Verantwortungslosigkeit“

taz: Die Chefs mehrerer KI-Unternehmen haben sich für weniger Tempo bei der Entwicklung neuer Modelle ausgesprochen. Für wie glaubwürdig halten Sie das?

Theresa Züger: Ich bin da skeptisch. Die Unternehmenschefs behaupten zwar, dass sie sich um die Menschheit sorgen und daher eine Pause oder Verlangsamung bei der Entwicklung wollen. Aber wo war denn ihre Sorge um die Menschheit in den vergangenen Jahren? Natürlich sind die Einsichten zu Gefahren von KI nicht falsch, und auch Ideen, wie jene zu mehr Aufsicht und internationalen Abkommen gehen grob in die richtige Richtung. Aber aus meiner Sicht fehlen zentrale Elemente, um die Aussagen ganz ernst zu nehmen.

Züger: Ein Punkt wäre, dass externe Aufsicht nur dann effektiv ist, wenn sie unabhängig und gesetzlich verankert ist. Unternehmen dürfen sich also nicht selbst aussuchen, von wem und wie sie überprüft werden, wie beispielsweise Anthropic-Chef Amodei es sich wünscht. Und zweitens: Um verantwortungsbewusster zu handeln, bräuchten die Firmenchefs ja keine weiteren Gesetze.

Sie könnten sich schon lange an völkerrechtlichen Dokumenten orientieren, die bis jetzt ignoriert werden. Beispielsweise der UN-Resolution für sichere KI der UNO-Generalversammlung vom März 2024. Insgesamt wirken die Vorschläge der Firmenchefs eher wie ein Manöver, dass sie gut dastehen lassen soll, das aber die Hauptverantwortung auf andere schiebt und gesetzliche Eingriffe vermeidet.

Theresa Züger ist Leiterin des Forschungsschwerpunkts Gesellschaftliche Werte, Transformation und KI am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG).

taz: Haben die drei insoweit Recht, dass die Entwicklung tatsächlich zu schnell geht?

Züger: Das Hautproblem ist nicht das Tempo, sondern die Verantwortungslosigkeit. Wenn die Unternehmen im Tempo der Entwicklung Sicherheitsmechanismen einziehen würden und auf das Alignment achten, also darauf, dass die KI im Einklang mit den gewollten Werten agiert, dann wäre das Problem deutlich kleiner. Aber das Motto ist eben immer noch: „Move fast and break things.“ Wenn man aber die Erzählung strickt, das Tempo wäre das Problem, dann scheint es so, als wäre KI so etwas wie eine Naturgewalt, die über uns rollt, und wir können nichts dagegen tun. Das ist eine gefährliche Erzählung – die aber den Interessen der Branche dient.

Züger: Weil sie eine Ohnmacht verursacht. Genauso wie die Erzählung, dass die Menschheit in Gefahr wäre. Das löst natürlich massive Ängste aus und stellt KI als mächtige und unkontrollierbare Kraft dar. Genauso, wenn die Rhetoriken nahelegen, es gäbe eine Art kapitalistischen Zwang, bis zur Vernichtung zu gehen, wenn es einen Marktvorteil bringt. Es ist wichtig, sich klarzumachen, dass hinter den derzeitigen Risiken und Schäden durch KI Entscheidungen stehen, sie zuzulassen. Regulierung muss die Firmen stärker in die Verantwortung nehmen. Aber gleichzeitig könnten wir als Gesellschaft weit mehr machen als die derzeitige Regulierung. Wir könnten KI-Entwicklung anders denken.

Du liest einen Text aus unserem Zukunfts-Ressort. Wenn du Lust auf mehr positive Perspektiven hast, abonnier TEAM ZUKUNFT, den konstruktiven Newsletter zu Klima, Wissen, Utopien. Jeden Donnerstag bekommst du von uns eine Mail mit starken Gedanken für dich und den Planeten.

🐾 Melde dich jetzt für den TEAM ZUKUNFT Newsletter an – kostenlos

Züger: Derzeit sehen wir, dass die Unternehmen hinter diesen Modellen zuallererst ihren Profit maximieren wollen. Das sehen wir entlang der gesamten Kette, von den miserabel bezahlten Data-Workern, die beim Training der Modelle eingesetzt werden, über die Energieversorgung, bei der Nachhaltigkeit keine Rolle spielt, bis hin zu digitaler Gewalt durch sexualisierte KI-Bilder. Bei den großen kommerziellen Anwendungen fragt sich niemand vorrangig: Was braucht unsere Gesellschaft mit ihren multiplen Krisen, wie kann KI hier helfen, damit sie dem Gemeinwohl zugutekommt?

Züger: Das ist der Punkt, den wir als Gesellschaft verhandeln müssen.

Züger: In meinem Forschungsteam im Projekt „Impact AI“ haben wir zum Thema Gemeinwohl und Nachhaltigkeit von KI 26 Kriterien entwickelt. Etwa Angemessenheit des Systems – braucht es wirklich ein komplexes Sprachmodell oder könnte ein einfacheres System ebenso gut oder besser funktionieren? Oder dass untersucht werden muss, welche möglichen Schäden ein System verursachen kann. Keine Anwendung auf der Welt wird in allen 26 Kriterien perfekt sein. Und dennoch gibt es Anwendungen und Projekte, die einen Mehrwert haben und Gemeinwohl glaubhaft als Ziel verfolgen.

Züger: Eine Anwendung, die wir genauer untersucht haben, ist Fullfact AI. Das ist ein Assistenzsystem, das Fak­ten­che­cke­r:in­nen dabei hilft, mögliche Desinformation besser zu erkennen und den Überblick zu behalten. Es erkennt etwa, ob eine Desinformation bereits gecheckt wurde und sich direkt darauf Bezug nehmen lässt. Das macht die menschlichen Fak­ten­che­cke­r:in­nen nicht überflüssig, sondern unterstützt sie und macht ihre Arbeit effizienter. Ein Projekt, das sich in einer Erprobungsphase befindet, ist „Sea Clear“. Bei diesem Projekt wird KI genutzt, um Müll in einer maritimen Umgebung zu erkennen und von Lebewesen wie Fischen zu unterscheiden. Damit können Unterwasserroboter eingesetzt werden, um Müll vom Meeresgrund zu sammeln.

Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!

In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.

taz: Wo sollte KI im Sinne des Gemeinwohls auf keinen Fall drinstecken?

Züger: Ich glaube, um das zu klären, sollten wir in der Debatte in drei Schritten vorgehen. Erstens müssen wir klären: Was sind die großen gesellschaftlichen Probleme? Zweitens: Ist Technologie hier eine hilfreiche Maßnahme zur Lösung? Drittens: Wenn wir KI einsetzen wollen – wie schaffen wir sichere Systeme und schützen uns gleichzeitig vor Nebenwirkungen, die man niemals ausschließen kann? Das Problem ist: Wir kommen überhaupt nicht zu dem Anfang von so einer Debatte, weil die Industrie ohne Rücksicht auf Verluste neue Entwicklungen auf den Markt wirft.

taz: Es werden zunehmend Fälle bekannt, in denen KI nicht das macht, was sie eigentlich sollte – in denen etwa KI-Agenten Cyberangriffe starten. Also KI-Agenten verbieten?

Züger: Wir sehen jedenfalls, dass momentan beim Einsatz dieser Technologie keine Sicherheit gewährleistet werden kann. Und stellen wir uns das doch mal vor: Ein Autohersteller sagt: „Ich kann nicht garantieren, dass in den nächsten zehn Jahren nicht ein signifikanter Prozentsatz unserer Autos explodiert.“ Da würde niemand sagen: Na ja, schauen wir mal und gehen das Risiko ein.

Nein, die dürften erst auf den Markt, wenn die alle Sicherheitstests bestanden haben – und für die Restrisiken haften zum Teil die Fahrer:innen, zum Teil die Hersteller. Wie bei anderen Industrien mit hohen Risiken sollten auch KI-Unternehmen für Schäden durch ihre Produkte haften. Das wäre auch ein wichtiger Anreiz, selbst stärkere Sicherheitsvorkehrungen zu treffen, Risiken ehrlicher einzuschätzen und Schäden zu vermeiden.

taz: Für wie realistisch halten Sie so einen Kurswechsel?

Züger: Dass wir nur gemeinwohlorientierte KI haben, halte ich zwar für wünschenswert, aber derzeit nicht für realistisch. Es wäre schon viel gewonnen, wenn die derzeitige Industrie weniger gemeinwohlschädlich agieren würde. Im nächsten Schritt ist auch ein Nebeneinander denkbar: Ein gutes Angebot an gemeinwohlorientierten Anwendungen und daneben die von gewinnorientierten Unternehmen, die aber natürlich trotzdem Mindeststandards erfüllen müssen und ernsthafte Schäden verhindern.

taz: Bei Social Media gibt es so ein Nebeneinander schon jetzt – und die Alternativen fristen ein Nischendasein …

Züger: Ja, aber bei KI ist die Lage anders. Für das Wachsen von Social-Media-Plattformen ist der Netzwerkeffekt wichtig. Je mehr Nutzer:innen, desto mehr weitere werden angezogen. Das haben wir bei KI nicht. Gemeinwohlorientierte KI-Anwendungen würden also Menschen, Institutionen, Firmen, eine Wahl ermöglichen und eine Alternative aufzeigen zu den profitorientierten KI-Unternehmen.

Züger: Das ist eine große Frage. Was es in jedem Fall dringend braucht, sind Aufsichtsstrukturen mit Sanktionsmechanismen. Und es braucht deren Verzahnung auf nationaler Ebene und darüber hinaus. Auf multinationaler Ebene müssen solche Institutionen erst geschaffen werden, ähnlich wie bei anderen Gefahrenfeldern. Verbunden mit der Haftung für Schäden von KI-Anbietern könnte man damit einen Mindeststandard zum Schutz vor Schäden durch KI etablieren.

taz: Als Argument gegen Regulierung kommt oft das Wirtschaftswachstum.

Züger: Die wichtigere Frage ist: Um welchen Preis macht man sich mit einem Markt gemein oder lässt ihn gewähren, wenn er langfristigen Schaden anrichtet? Dieser Preis könnte auf lange Sicht sehr viel höher sein als Wachstumseinbußen.