KI-Zerstörung ist nicht hypothetisch. Es ist bereits da.

Wir befinden uns seit mehreren Wochen in einer heftigen Debatte darüber, ob künstliche Intelligenz (KI) uns alle töten wird. Ausgelöst durch eine Flut ehemaliger Mitarbeiter großer KI-Firmen, die davor warnten, dass eine künftige superintelligente KI zum Aussterben der Menschheit führen könnte, hat die Debatte eine kaleidoskopische Reihe von Ansichten hervorgerufen, die nicht in klare ideologische Grenzen zerfallen. Manche halten das alles für Quatsch, entweder das Produkt eines ignoranten Hypes oder Teil einer zynischen Hype-Kampagne der Branche selbst. Für andere, die davon überzeugt sind, dass die potenziellen Fähigkeiten der Technologie kein Scherz sind, handelt es sich vielmehr um Warnungen, die absolut ernst genommen werden müssen.

In vielerlei Hinsicht ist die Debatte jedoch nebensächlich. Es ist nicht so, dass wir nicht versuchen sollten, dorthin zu gelangenuntenwovon genaupassiertmit dem HuggingFace-Hacking-Vorfall und dass wir uns keine Sorgen über die Frage abtrünniger Agenten oder die Gefahren einer zukünftigen superintelligenten KI machen sollten, die unseren Fortbestand gefährden könnte. Es ist so, dass das, was wir KI nennen, bereits umfassend bewiesen hat, dass es eine große Gefahr für die Menschheit birgt – und immensen Schaden anrichtet, lange bevor es auch nur annähernd die Superintelligenz erreicht.

Bedenken Sie die Tatsache, dass KI im vergangenen Frühjahr „fast einen Krieg“ zwischen den Vereinigten Staaten und China begonnen hätte, wie eine Quelle es ausdrücktesagte CNNdarüber. Ein Analyst des Spezialeinsatzkommandos hatte einen Chatbot verwendet, um einen Bericht über die Ladung eines chinesischen Schiffes, das im Nahen Osten unterwegs war, zu erstellen. Darin wurde die Halluzination gemacht, dass das Schiff die Komponenten eines Atomwaffenprogramms befördere, was das US-Militär dazu veranlasste, zu mobilisieren, um das Schiff mit gezogenen Waffen abzufangen und zu entern. Zu diesem Zweck waren sogar Militärflugzeuge gestartet. Die Operation wurde abgebrochen, nachdem die Beamten den Bericht untersucht hatten und feststellten, dass es sich um KI-generierten Unsinn handelte.

Laut CNN war der Vorfall das Ergebnis zweier sich überschneidender Trends: der Tatsache, dass jüngere „KI-native“ Analysten dazu neigen, sich übermäßig auf die Technologie zu verlassen und ihr zu vertrauen, und der aggressiven Einführung von KI durch das Pentagon unter Verteidigungsminister Pete Hegseth. Es ist erwähnenswert, dass ein Ausbruch eines direkten Krieges zwischen den Vereinigten Staaten und China eine große Gefahr für die ganze Welt bedeuten würde, und zwar nicht nur, weil er wahrscheinlich zu einem globalen Krieg führen würdeDepression, sondern weil etwaige militärische Feindseligkeiten zwischen den beiden einehohe ChanceAtomkraft zu nutzen – etwas, das wirklichkönntebedrohen das Überleben unserer Spezies.

Der Vorfall bringt die sehr realen, derzeit bestehenden Gefahren der KI perfekt zum Ausdruck. Wir sind so auf das zukünftige katastrophale Potenzial hypothetischer superintelligenter KI-Agenten fixiert, dass wir vergessen, dass KI bereits jetzt echten Schaden anrichtet und enorme Risiken birgt – nicht weil sie schlauer ist als wir, sondern weil es sich um fehlerhafte, fehlerbehaftete Technologie handelt, die wir scheinbar in jeden Aspekt unseres Lebens einschleusen wollen.

Dazu gehört auch der Krieg. Lange vor dem Vorfall mit dem chinesischen Schiff war die künstliche Intelligenz direkt für den schrecklichen, massenhaften Verlust unschuldiger Menschenleben verantwortlich, da sie in militärische Operationen eingebunden wurde. Wir haben es zuletzt bei der Ermordung zahlreicher iranischer Schulmädchen durch die Trump-Regierung gesehen, bei der das Vertrauen des Militärs in Palantirs KI-Tool Maven ein wichtiger Teil der Kette katastrophaler Entscheidungsfindung war, die zu der Gräueltat führte.

Personal des US-ZentralkommandosangeblichDurch die Einspeisung der zugrunde liegenden Intelligenz in Maven wurde der Arbeitsaufwand, der früher mit der Auswahl von Zielen verbunden war, auf wenige Minuten reduziert, wobei einfach davon ausgegangen wurde, dass das KI-Tool alle Fehler erkennen und hervorheben würde. Das war nicht der Fall. Zuvor sahen wir, wie KI in apokalyptischer Weise für Kriegszwecke in Gaza eingesetzt wurde, wo KI gezielt eingesetzt wurdeim Herzender wahllosen Verflachung des Territoriums durch Israel.

Dies ist jedoch nur der offenkundig mörderischste Einsatz von KI. Viele seiner sozialen Schäden waren heimtückischer.

Die Entfesselung der KI für die Öffentlichkeit hat zu einem inzwischen weithin dokumentierten Phänomen geführt, das Forscher des Massachusettes Institute of Technology beobachtenbezeichnet„kognitive Kapitulation“ bei College-Studenten, die mit Fristen und Erfolgsdruck zu kämpfen haben und sich massenhaft der Nutzung der Technologie zugewandt haben, um ihre Aufsätze zu schreiben und anderweitig Aufgaben für sie zu erledigen. Der Anteil der Studierenden, die dies tun, hat mittlerweile einen deprimierenden Wert erreicht95 Prozent.

Die Auslagerung ihres gesamten Denkens auf Maschinen hat dazu geführt, dass junge Hochschulabsolventen nicht erst am Ende ihres Studiums stehenohnescheinbar tatsächlichLernenihr Fachgebiet aber mit echtschwächerGehirnleistung: ein schlechteres Gedächtnis, die Unfähigkeit, intellektuellen Herausforderungen standzuhalten, und schwindende Fähigkeiten zum kritischen Denken. Wall-Street-Firmen, normalerweise große Förderer der KI-Branche, haben sich im Ernstfall wiedergefundenweniger als beeindrucktmit den jungen Arbeitskräften, die es hervorbringt, und enttäuscht von einer Generation neuer Mitarbeiter, die sich als bemerkenswert oberflächlich erweisen. Es ist so schlimm, dass die Schüler selbstdenkenDie Technologie schwächt ihr kritisches Denken, obwohl sie sich weiterhin darauf verlassen.

In der Zwischenzeit wenden sich Menschen zur Therapie und anderen Hilfe bei der Bewältigung ihrer persönlichen Dämonen der KI zu, und KI-Chatbots werden mit einer Reihe von Selbstmorden und sogar Selbstmorden in Verbindung gebrachtMordevon in Schwierigkeiten geratenen Personen, aNummervon ihnenTeenager. Das Problem besteht darin, dass die Technologie – abgesehen davon, dass sie weder menschlich ist noch über professionelles Fachwissen im Bereich der psychischen Gesundheit verfügt – darauf ausgelegt ist, dem Benutzer zu schmeicheln, ihn zu erfreuen und ihn auf andere Weise so lange wie möglich zu beschäftigen. Infolgedessen ist die Rolle von Chatbots bei diesen Tragödien vielfältignutzlosum Benutzern zu helfen, zuFüttern ihre Wahnvorstellungenund ihnen aktiv zu helfensich verletzenoderandere.

Dann hilft KI nicht dabei, ansonsten psychisch stabilen Personen zu helfen, sich mit tödlich schlechten Ratschlägen selbst zu verletzen: dem Mannhospitalisiertnachdem ChatGPT ihm wahrscheinlich geraten hatte, Salz in seiner Ernährung durch ein altmodisches Beruhigungsmittel zu ersetzen; DieGestrandete Wandererdie beinahe gestorben wären, als Google Gemini ihnen riet, weit weniger Essen und Wasser einzupacken, als sie brauchten; der Pfarrer, derwäre fast gestorbeneiner Lungenembolie, nachdem ChatGPT ihm geraten hatte, keine medizinische Hilfe in Anspruch zu nehmen; der ältere Neurowissenschaftler, deraufschiebenKrebsbehandlung, weil er KI-Halluzinationen mehr vertraute als seinem eigenen Arzt; und soviele mehr.

Denn KI-Chatbots und andere Tools wissen oft nicht, wovon sie reden. Eine Studie (von einem KI-Anbieter, nicht weniger)gefunden17 große Sprachmodelle (LLMs) beantworteten nur zwei von fünf Finanzfragen richtig. Ein anderer hat sie gefundenhalluzinierenrechtliche Antworten zwischen 58 und 88 Prozent der Zeit.

KI-Chatbots unterstützen demnach fast in der Hälfte (47 Prozent) der Fälle kriecherisch eine Vielzahl potenziell schädlicher Aussagen von Benutzernein anderer. Dies ist besonders alarmierend, wenn es um medizinische Ratschläge geht, bei denen eine Studie ergab, dass KI nur bei diesen Punkten genau ist76 Prozentder damaligen Zeit – eine bestandene Note für eine College-Arbeit, aber miserabel im medizinischen Kontext, wo ein einmaliger Fehler den Tod oder eine Schwächung bedeuten konnte.

Aber es sind nicht nur Chatbots. Die schnelle Integration von KI in eine Vielzahl von Fachgebieten hat zu nachteiligen Folgen geführt. Gerichtssanktionen sindauf dem Vormarschweil Anwälte immer wieder Schriftsätze mit KI-Fehlern einreichen. Auf der anderen Seite der Bank sitzen angeblich zwei Bundesrichtervertrautauf KI, um fehlerhafte Gerichtsbeschlüsse zu erlassen, ein ernstes Problem angesichts der weitreichenden Macht, die Gerichte im politischen System der USA haben, und weil Richter im Großen und Ganzen tätig sindisoliertaus der zivilrechtlichen Haftung. Der Einsatz von KI für medizinische Geräte in der Praxis hat zugenommenverursachteine Flut von Verletzungen, darunter Schlaganfälle, nachdem Chirurgen durch die Technologie fehlgeleitet wurden und Arterien beschädigten.

Eine Studie von Stanford und Harvard von Anfang dieses JahresgefundenDie besten KI-Modelle gaben in medizinischen Fällen in 22 Prozent der Fälle „sehr schädliche klinische Empfehlungen“ ab, oft durch Unterlassung. In anderen Fällen ist KI das Seingebrauchtvon Arzt- und Zahnarztpraxen, um das Anpreisen teurer Behandlungen zu rechtfertigen, die Patienten eigentlich nicht benötigen.

Und dann ist da noch die Art und Weise, wie KI-Algorithmen eingesetzt werden, um bereits bestehendes Fehlverhalten von Unternehmen zu verschärfen und zu rechtfertigen. Eine laufende Sammelklage gegen UnitedHealthbehauptetdass seine verschiedenen Unternehmen ein fehleranfälliges KI-Tool nutzten, um Patienten serienmäßig die Versicherung zu verweigern. Eine andere Klagebehauptetdass eine KI-Rekrutierungssoftware eine systematische Beschäftigungsdiskriminierung von schwarzen Bewerbern und anderen vornahm.

In all diesen Fällen werden Menschen durch KI verletzt oder bedroht, nicht weil sie empfindungsfähig ist und schlauer ist als wir, sondern im Gegenteil: weil es sich um eine fehlerhafte, manchmal komisch unfähige Technologie handelt, die Menschen aktiv in Situationen einsetzen, in denen sie am wahrscheinlichsten ernsthaften Schaden anrichtet, manchmal auf eine Weise, die aktiv darauf abzielt, andere zu betrügen.

Tatsächlich ist es wohl der marktgetriebene Hype um die bevorstehende Superintelligenz der KI, der zu all dem beigetragen hat. Die Überbewerteung der Fähigkeiten der KI hat dazu beigetragen, ihre schnelle Verbreitung in Bereichen wie dem Krieg oder dem Gesundheitswesen zu fördern, obwohl sie noch nicht für die Hauptsendezeit bereit ist und diejenigen, die mit der Technologie nicht vertraut sind oder sie nicht kennen, eher dazu neigen, das, was sie sagt, für bare Münze zu nehmen, selbst wenn sie falsch ist oder halluziniert.

Die Gefahren einer hypothetischen KI-Superintelligenz sollten Anlass zur Sorge geben. Aber wir müssen nicht feststellen, ob dies wirklich unsere Zukunft ist, um fordern zu können, dass die Entwicklung dieser Technologie dringend gestoppt wird, dass sie streng reguliert wird und dass ihr ernsthafte Beschränkungen auferlegt werden, wenn nicht gar ganz verboten wird, sie für bestimmte Zwecke zu verwenden. Die dümmere, fehleranfällige KI von heute ist ohnehin schon ein Risiko für die Menschheit.