Gefahren Künstlicher Intelligenz | Don’t believe the KI-Hype

US-Präsident Donald Trump versammelte zuletzt die Spitzen der größten Tech-Unternehmen im Weißen Haus, nur um ihnen zu versichern, dass sie sich auch künftig selbst kontrollieren dürfen. Foto: AFP/Kevin Dietsch Als Mitte September der KI-Entwickler Jacob Coxon der Welt via X mitteilte, dass er seinen Job beim US-Unternehmen Anthropic kündigt, weil KI einfach zu gefährlich sei, geschah etwas Erstaunliches. Die Chefs von Anthropic und dem Konkurrenz-Unternehmen Open AI äußerten sich ebenfalls sehr besorgt ob der Gefahr. Und viele Medien auch in Deutschland griffen das auf.

Mich erreichten in der Folge eine ganze Reihe von Fragen, wie gefährlich die Situation tatsächlich sei.

Erstaunlich fand ich daran nicht, dass es diese Äußerungen von diesen Leuten gab. Und überhaupt nicht erstaunlich, dass sich viele Menschen deswegen Sorgen machten. Erstaunlich fand ich, wie unkritisch die Sicht der Unternehmens-Chefs in sehr vielen Medien wiedergegeben wurde. Es ist ja nicht so, als sei irgendetwas Neues mitgeteilt worden. Die Behauptung, dass wir demnächst alle sterben müssen, weil Künstliche Intelligenz übernimmt, gibt es gefühlt alle paar Monate aufs Neue.

Anne Roth gehört zu den Pionierinnen linker Netzpolitik. Für »nd« schreibt sie alle zwei Monate montags über digitale Grundrechte und feministische Perspektiven auf Technik. Seit November 2025 ist sie wieder Referentin für Digitalpolitik bei der Bundestagsfraktion der Partei Die Linke.

Die richtige Antwort darauf ist, und das ist auch nicht neu: Es gibt keine intelligenten Maschinen – und es ist nicht absehbar, dass es demnächst welche geben wird. Diese sogenannte Künstliche Intelligenz ist weiterhin Software, die Wahrscheinlichkeiten berechnet. Das, was wir als menschliche Intelligenz bezeichnen, ist durch Maschinen weiterhin nicht darstellbar. Es ist nicht absehbar, dass übermorgen Roboter übernehmen und auf eigene Faust entscheiden, dass ihnen die Welt ohne uns besser gefällt.

Bereits 2021 ist ein inzwischen legendärer Text zu dieser Frage geschrieben worden, der die Art von Software, die gemeint ist, wenn von KI gesprochen wird, die ›Großen Sprachmodelle‹, als stochastische Papageien bezeichnet hat. Weil sie – auf mathematisch komplizierte Weise zufällig – Informationen wiedergeben, die sie anderswo aufgenommen haben. Der Text beschreibt außerdem eine Reihe von Problemen, die davon verursacht werden. Dazu gehört, dass KI papageienhaft wiedergibt, was sie in den Daten vorfindet, mit denen die Software trainiert wird. Deswegen sind KI-Systeme genauso rassistisch, sexistisch, antisemitisch, queerfeindlich wie die Gesellschaft es ist. Deswegen lehnen auf KI basierende Vorauswahlsysteme in Bewerbungsprozessen ältere, schwangere, weniger gebildete Menschen ab, wenn die Person, die üblicherweise auch noch draufschauen würde, zuvor weggekürzt wurde.

Eine der Autorinnen des Textes ist Timnit Gebru, die wegen ihrer Kritik an der Entwicklung solcher Systeme vor Jahren ihren Job bei Google verlor. Ihr wird nun einer der Alternativen Nobelpreise verliehen, weil sie dazu beigetragen habe, »die internationale Debatte auf elementare Fragen wie die nach Zweck, Verantwortlichkeit und Regulierung von KI-Entwicklung zu lenken«.

Das eigentlich Bedrohliche, und das sagen auch immer wieder Menschen wie Timnit Gebru, ist nicht die postulierte Allmacht von selbstständig werdenden Maschinen. Wenn die Unternehmen scheinbar sorgenvoll vor der Technologie warnen, die sie entwickeln, dann dient das vor allem dem eigenen Marketing.

Das Problem ist, dass diese KI-Systeme durchaus gefährlich sind. Das zeigte auch das Beispiel der vorgeblich »ausgebüxten« KI, die im Juli die IT eines anderes Unternehmen angegriffen hat. Aber nicht, weil sie von allein darauf gekommen wäre, sondern weil ihr eine Aufgabe gegeben wurde, ohne deutlich genug die Grenzen zu definieren. Dass KI gefährlich sein kann, erleben wir gerade überall: gefährlich für Arbeitsplätze, für das Klima (die Rechenzentren), für Bildung, Demokratie (Social Media!), durch Überwachung, für die IT-Sicherheit und natürlich beim Militär. Und übrigens auch für die Medien, von denen so viele die Marketing-Botschaften ungefiltert wiedergeben.

Die Gefahr liegt aber nicht darin, dass KI unkontrollierbar wäre, sondern dass sie nicht kontrolliert wird. Die Unternehmen wissen ja offensichtlich ganz gut, was geschehen kann. Statt aber dafür zu sorgen, dass ihre Experimente gut geschützt stattfinden, testen sie sie, ohne sich um die Konsequenzen zu kümmern. Es wäre ja durchaus möglich, gar keine Verbindung zum Internet zuzulassen. Dann könnte auch keine andere Firma gehackt werden. Wenn es doch geschieht, ist das eine bewusste Entscheidung der Unternehmen. Die besorgten Briefe ihrer Chefs wirken beim näheren Hinsehen wenig überzeugend: Es läge ja in ihrer Macht, diese gefährlichen Experimente zu verhindern. Möglicherweise würden sie dann das Rennen darum verlieren, welches KI-Unternehmen das größte wird. Und genau deswegen sollte es nicht ihnen überlassen bleiben, welche Grenzen gezogen werden.

Wir haben für viele Produkte, die gefährlich sind, Kontrollen, Aufsichtsbehörden und auch Verbote. Für Lebensmittel, Medikamente, Autos müssen Gurte und Bremsen haben. Auch in den USA ist nicht alles erlaubt. Bei KI aber wird gerade in der EU die mühsam ausgehandelte und lange nicht ausreichende KI-Gesetzgebung zurückgefahren. Europa müsse endlich wieder mithalten können. Innovationen dürften nicht behindert werden durch Regulierung.

Die Situation erinnert ein bisschen an Menschen, die ihre Kampfhunde bewusst besonders aggressiv züchten. Und sie dann Sonntagnachmittag im Park von der Leine lassen, um auszuprobieren, was passiert. Zum Glück ist das nicht erlaubt.

Bei uns muss niemand zahlen, um informiert zu sein. Klingt nach einem schlechten Geschäftsmodell? Ist es auch. Aber uns sind unabhängiger Journalismus und Teilhabe für alle wichtiger als Profit. Journalismus kostet trotzdem Geld: Recherche, Druck und all die Menschen, die ihn machen. Deshalb sind wir auf dich angewiesen. Bis Ende des Jahres brauchen wir 300.000 Euro.

Spende einmalig oder regelmäßig, jeder Betrag zählt. Damit nd bleibt.