Anatomie der Täuschung v: Das Jahrhundert der erfundenen Lügen

KI, Deepfakes und eine brutale Frage: Was passiert mit der Demokratie, wenn niemand mehr weiß, was er glauben soll?

„Die wirksamste Täuschung besteht nicht darin, die Realität zu verheimlichen. Es besteht darin, ein weiteres zu bauen und Millionen von Menschen darin zu beherbergen …“

NOTIZ

ANATOMIE DER TÄUSCHUNG V – DAS JAHRHUNDERT DER FARBIGEN LÜGENschließt die Reihe „Anatomie der Täuschung“ ab, eine Untersuchung der neuen Formen der Manipulation, Wahrnehmung und Konstruktion von Wahrheit im 21. Jahrhundert.

Dem ging voraus

ANATOMIE DER TÄUSCHUNG I – DIE LÜGE ALS STAATLICHES INSTRUMENT

ANATOMIE DER TÄUSCHUNG II – DIE FABRIK DER WAHRHEIT

ANATOMIE DER TÄUSCHUNG III – DIE FÜNF LÖWEN UND IHRE ERZÄHLUNGEN

ANATOMIE DER TÄUSCHUNG IV – WENN DAS OPFER ZUM TÄTIGEN WIRD

WENN SEHEN NICHT MEHR GLAUBEN BEDEUTET

Ein Foto, eine Aufnahme oder eine Stimme dienten jahrhundertelang als Beweismittel. Sie waren kein unfehlbarer Beweis, aber sie hatten besonderes Gewicht, weil sie einen Bruchteil der Realität einzufangen schienen. Ein Bild könnte zeigen, dass jemand dort gewesen war. Eine Aufzeichnung könnte eine Aussage bewahren. Eine Stimme könnte eine Person identifizieren. Die Technologie verwandelte diese Aufzeichnungen nach und nach in mechanische Zeugen von Ereignissen, unvollkommen, aber ausreichend zuverlässig, um Gerichte, Wahlen, Kriege, journalistische Untersuchungen und politische Entscheidungen zu beeinflussen.

Künstliche Intelligenz beginnt, diese historische Gewissheit zu zerstören. Sehen reicht nicht mehr aus, um zu glauben, denn praktisch jedes Gesicht kann sprechen, jede Stimme kann etwas sagen, was sie nie gesagt hat, und jedes Ereignis kann mit einer außerordentlich überzeugenden Erscheinung rekonstruiert werden. Es kann so aussehen, als würde eine Person eine Rede halten, die es nie gegeben hat, ein Anführer kann gezeigt werden, wie er eine Aktion anordnet, die nie angeordnet wurde, und es kann so aussehen, als hätte sich eine Menschenmenge an einem Ort versammelt, an dem es nie eine solche gegeben hat.

Lange Zeit hat die Menschheit gelernt, Gerüchten zu misstrauen, weil sie wusste, dass Worte lügen können. Später musste es lernen, Fotografien teilweise zu misstrauen, weil sie beschnitten, verändert oder aus dem Kontext gerissen werden konnten. Jetzt beginnt eine weitaus komplexere Phase: Auch die Menschheit muss lernen, dem zu misstrauen, was Bewegung, Klang, Gesten, Atem und den Anschein von Realität hat.

Der Wandel ist weitaus tiefgreifender als es scheint. Wir stehen nicht nur vor neuen Manipulationsinstrumenten. Wir stehen vor einem Wandel in der Bedeutung von Beweisen. Ein Foto garantiert nicht mehr, dass etwas passiert ist. Eine Stimme garantiert nicht länger, dass jemand gesprochen hat. Ein Video garantiert nicht mehr, dass eine Szene existierte. Und wenn die Instrumente, die jahrzehntelang zur Beweisführung von Fakten dienten, ihre Autorität zu verlieren beginnen, betritt die Gesellschaft Neuland.

Das Problem ist nicht nur technologischer Natur. Es ist politisch, juristisch, journalistisch und vor allem demokratisch. Eine Gesellschaft kann unterschiedliche Interpretationen desselben Ereignisses diskutieren. Weitaus gefährlicher ist es, wenn die grundsätzliche Gewissheit, dass das Ereignis tatsächlich stattgefunden hat, nicht weitergegeben wird.

„Jahrhundertelang haben wir über die Bedeutung von Bildern gestritten. Jetzt beginnen wir darüber zu streiten, ob die Bilder jemals existiert haben…“

DER DEEPFAKE: DIE LÜGE, DIE GELERNT HAT, EIN GESICHT ZU HABEN

In der Vergangenheit musste Propaganda durch Worte, sorgfältig ausgewählte Fotos, wiederholte Reden oder aus dem Kontext gerissene Bilder überzeugen. Jetzt kann es direkt den Zeugen, den Präsidenten, den Soldaten, den Geschäftsmann oder den Bürger herstellen. Ein Gesicht kann Worte aussprechen, die es nie gesprochen hat. Eine Stimme kann Entscheidungen verkünden, die nie getroffen wurden. Ein Video kann ein Treffen zeigen, das nie stattgefunden hat, eine falsche Drohung, ein erfundenes Geständnis oder einen militärischen Befehl, den niemand jemals gegeben hat.

Das verändert das Ausmaß der Täuschung völlig. Die Lüge braucht nicht mehr nur eine Erzählung: Sie kann ein Gesicht, eine Stimme, Gesten, Schweigen, Bewegungen und den Anschein von Authentizität bekommen. Und je natürlicher diese Nachahmungen werden, desto schwieriger ist es für den Normalbürger, zwischen Dokumentation und Fälschung zu unterscheiden.

Das Problem wird durch die Geschwindigkeit verschärft. Ein gefälschtes Video kann innerhalb von Minuten um die Welt reisen, auf Millionen von Telefonen erscheinen, Angst, Empörung oder Begeisterung hervorrufen und politische Entscheidungen beeinflussen, bevor Journalisten, Spezialisten oder Institutionen nachweisen können, dass es nie passiert ist. Wenn die Korrektur dann endlich eintrifft, kann es sein, dass sich der erste Eindruck bereits verfestigt hat.

Der Deepfake führt somit eine neue Form der Macht ein: die Realität nicht nur zu interpretieren, sondern sie visuell zu fabrizieren und in Umlauf zu bringen, als ob sie tatsächlich geschehen wäre.

„Die Propaganda des 20. Jahrhunderts musste Sie von einer Lüge überzeugen. Die Propaganda des 21. Jahrhunderts kann Ihnen die Lüge zeigen, die sich vor Ihren Augen abspielt …“

GESCHWINDIGKEIT: WENN DIE LÜGE ZUERST KOMMT

Demokratie hat ein zusätzliches Problem: Überprüfung braucht Zeit; Lügen kann Sekunden dauern. Ein falsches Bild, eine manipulierte Aufnahme oder eine erfundene Aussage können gleichzeitig auf Millionen von Telefonen auftauchen, bevor es Journalisten, Experten, Institutionen oder Plattformen gelingt, herauszufinden, was tatsächlich passiert ist. Zu diesem Zeitpunkt haben Emotionen möglicherweise bereits einen Großteil der Arbeit erledigt.

Schnelligkeit begünstigt die Täuschung, denn eine Lüge muss nicht erst bewiesen werden, bevor sie in Umlauf kommt. Es muss nur möglich erscheinen, ein Vorurteil bestätigen, eine Angst schüren oder Empörung hervorrufen. Im Gegensatz dazu erfordert die Wahrheit die Überprüfung von Quellen, die Durchsicht von Bildern, den Vergleich von Berichten, die Durchsicht von Dokumenten und die Rekonstruktion einer Abfolge von Ereignissen. Während die eine Seite Nachforschungen anstellt, teilt die andere bereits mit.

Im Wahlkampf kann eine Fälschung, die nur wenige Stunden vor der Wahl veröffentlicht wird, besonders gefährlich sein. Das Gleiche kann während eines Krieges, einer Finanzkrise, eines Protests oder eines Terroranschlags passieren. Ein falsches Bild, das einer Regierung, einem Kandidaten oder einer Militärmacht zugeschrieben wird, kann die Wahrnehmung verändern, wenn noch niemand genug Zeit hatte, es zu überprüfen.

Und selbst wenn später eine Korrektur erscheint, erreicht sie nicht unbedingt diejenigen, die die ursprüngliche Nachricht erhalten haben. Die Lüge könnte Millionen von Zuschauern haben; die Korrektur, nur ein Bruchteil. Zudem bleibt der erste Eindruck oft auch dann bestehen, wenn er widerlegt wurde.

„Die Wahrheit kann die Ermittlungen gewinnen und trotzdem die ersten vierundzwanzig Stunden verlieren …“

WAHLEN IM ZEITALTER DER SYNTHETISCHEN REALITÄT

Ein Kandidat kann den Anschein erwecken, als würde er etwas sagen, was er oder sie nie gesagt hat. Es kann so aussehen, als hätte ein Krieg begonnen, bevor er tatsächlich beginnt. Wahlbetrug kann durch Bilder „bewiesen“ werden, die es nie gab. Eine Menschenmenge kann erstellt, vergrößert oder gelöscht werden. Das Problem besteht nicht mehr nur in der Manipulation von Meinungen: Es besteht nun die Möglichkeit, genau das Rohmaterial zu manipulieren, aus dem sich die Bürger ihre Meinung bilden.

Im Wahlkampf können ein paar Stunden eine Wahl verändern. Ein gefälschtes Video, das am Abend vor einer Abstimmung veröffentlicht wurde, kann zeigen, wie ein Kandidat eine soziale Gruppe beleidigt, Geld annimmt, ein Verbrechen gesteht oder eine Phrase von sich gibt, die darauf abzielt, die Glaubwürdigkeit zu zerstören. Selbst wenn sich die Aufzeichnung später als falsch erweisen sollte, kann es sein, dass die Wahl bereits vorbei ist, bevor die Wahrheit sie einholt.

Die synthetische Realität bringt auch ein gefährliches Paradoxon mit sich: Je mehr sich Gesellschaften an Erfindungen gewöhnen, desto einfacher wird es auch, authentisches Material zu leugnen. Ein Kandidat, der mit einer echten Aufnahme konfrontiert wird, kann einfach behaupten, dass diese durch künstliche Intelligenz hergestellt wurde. Auf diese Weise schafft der Deepfake nicht nur falsche Beweise; es kann auch den Wert echter Beweise schwächen.

Demokratie erfordert Meinungsfreiheit, aber diese Freiheit setzt eine gemeinsame Grundlage von Fakten voraus. Wenn jeder politische Sektor sein eigenes Video, seine eigenen Beweise und letztendlich seine eigene Realität herstellen kann, besteht die Gefahr, dass eine Wahl nicht mehr ein Wettbewerb zwischen Projekten ist, sondern ein Wettbewerb zwischen inkompatiblen Universen.

„Eine Wahl ist nicht mehr völlig frei, wenn die Bürger zunächst entscheiden müssen, ob das, was sie sehen, jemals passiert ist…“

SOCIAL MEDIA: DIE FABRIK OHNE DIREKTOR

Alte Propaganda hatte im Allgemeinen eine identifizierbare Quelle. Eine Regierung unterzeichnete eine Erklärung, eine Zeitung veröffentlichte eine Titelseite, eine politische Partei hielt eine Rede oder ein Rundfunksender wiederholte einen Slogan. Neue Propaganda kann von Regierungen, Parteien, Unternehmen, ideologischen Gruppen, privaten Agenturen, anonymen Einzelpersonen oder automatisierten Systemen ausgehen, die in der Lage sind, Inhalte in einem Ausmaß zu produzieren und zu verbreiten, das noch vor wenigen Jahren unmöglich war.

Tausende von Konten können dieselbe Version wiederholen, bis die schiere Menge den Anschein eines Konsens erweckt. Eine Behauptung, für die es zunächst keine Beweise gibt, kann schon deshalb wahr erscheinen, weil sie immer wieder auf Telefonen, in Videos, Kommentaren und Beiträgen auftaucht. Die Wiederholung ersetzt langsam den Beweis, und Popularität beginnt mit der Wahrheit zu verwechseln.

Social Media fügt ein weiteres entscheidendes Element hinzu: Algorithmen müssen keine Ideologie teilen, um eine Unwahrheit zu verstärken. Oft reicht es aus, dass ein Beitrag Angst, Empörung, Überraschung oder Wut hervorruft, um Engagement zu wecken und eine größere Verbreitung zu erreichen. Eine besonders wirkungsvolle Lösung kann daher das plattformeigene Design eines außerordentlich schnellen Transportsystems sein.

Und vielleicht liegt darin eines der beunruhigendsten Merkmale der neuen Täuschung. Es gibt nicht mehr immer einen sichtbaren Direktor, der den gesamten Vorgang koordiniert. Millionen von Benutzern, Algorithmen, politischen Interessen, wirtschaftlichen Anreizen und automatisierten Systemen können gleichzeitig an der Schaffung einer kollektiven Wahrnehmung beteiligt sein, ohne dass jemand das Endergebnis vollständig kontrolliert.

„Die alte Propaganda brauchte eine starke Stimme. Die neue Art benötigt möglicherweise nur Millionen von Echos…“

DIE ZWEITE TÄUSCHUNG: SICHERSTELLEN, DASS NIEMAND ETWAS GLAUBT

Hier liegt vielleicht die beunruhigendste Konsequenz dieser gesamten Transformation. Die Gefahr von Deepfakes besteht nicht nur darin, dass Millionen von Menschen etwas Falsches glauben. Es besteht eine weitere, noch größere Gefahr: dass sie anfangen könnten, sogar dem zu misstrauen, was wahr ist. Eine authentische Aufnahme kann als künstliche Intelligenz abgetan werden. Ein echtes Foto kann als manipuliert gelten. Eine dokumentierte Gräueltat kann als Fälschung dargestellt werden. Und eine echte Stimme kann im gleichen Misstrauensgebiet gefangen sein wie eine erfundene.

Die Technologie, die die Herstellung falscher Beweise ermöglicht, schafft auch das perfekte Alibi für die Ablehnung echter Beweise. Ein Leiter, der in ein kompromittierendes Gespräch verwickelt ist, kann behaupten, dass der Ton künstlich erzeugt wurde. Ein Militär, das mit verstörenden Bildern konfrontiert wird, kann argumentieren, dass diese digital konstruiert wurden. Ein Unternehmen, eine politische Partei oder eine andere Persönlichkeit des öffentlichen Lebens kann versuchen, technologische Zweifel in eine Verteidigung umzuwandeln.

Somit besteht das Problem nicht mehr nur darin, Wahrheit von Unwahrheit zu unterscheiden. Es wird zu etwas viel Tieferem: zu beweisen, dass die Wahrheit immer noch wahr ist. Je mehr synthetische Inhalte im Umlauf sind, desto größer ist die Wahrscheinlichkeit, dass die Gesellschaft eine Art erkenntnistheoretische Müdigkeit entwickelt, ein permanentes Misstrauen, bei dem alles verdächtig wird und keine Beweise ausreichend erscheinen.

Dieses Szenario kommt insbesondere denen zugute, die bereits Macht besitzen. Wenn alles in Frage gestellt werden kann, können auch unbequeme Fakten unter einer Wolke konkurrierender Versionen, Leugnungen, Erfindungen und Zweifel begraben werden. Es ist nicht notwendig zu beweisen, dass etwas nicht geschehen ist. Manchmal reicht es aus, sicherzustellen, dass niemand völlig sicher ist, dass dies der Fall ist.

Die traditionelle Lüge versuchte, eine Wahrheit durch eine andere Version zu ersetzen. Die zweite Täuschung ist ehrgeiziger: Sie zielt darauf ab, die Möglichkeit, eine gemeinsame Wahrheit zu etablieren, zu zerstören.

„Wenn alles falsch sein kann, muss sogar die Wahrheit bewiesen werden, dass sie existiert …“

DIE NEUEN ARCHITEKTEN DER WIRKLICHKEIT

Während eines Großteils des 20. Jahrhunderts war die Macht, Narrative zu konstruieren, bei Regierungen, großen Zeitungen, Fernsehsendern, Nachrichtenagenturen und Propagandaapparaten konzentriert. Heute ist diese Macht fragmentiert, aber sie hat sich auch vervielfacht. Google, Meta, OpenAI,

Das Problem besteht nicht darin, ein einzelnes Unternehmen zu beschuldigen oder davon auszugehen, dass hinter allem ein geheimer Befehl steckt. Das Problem ist systemischer Natur. Wer die Modelle, Algorithmen, Verteilung, Verifizierung und Sichtbarkeit kontrolliert, verfügt über eine außergewöhnliche Fähigkeit, das zu beeinflussen, was Millionen von Menschen für real, wichtig oder beachtenswert halten.

Ein Algorithmus kann entscheiden, was zuerst erscheint und was nach einigen Sekunden verschwindet. Eine Plattform kann bestimmte Inhalte verstärken und die Sichtbarkeit anderer Inhalte verringern. Ein Modell der künstlichen Intelligenz kann Bilder, Texte, Stimmen und Videos erzeugen, die ganze Informationsnetzwerke versorgen können. Eine Regierung kann versuchen, in dieses Ökosystem einzugreifen; ein Unternehmen kann seine Regeln ändern; Eine organisierte Gruppe kann ihre Schwächen ausnutzen.

Deshalb wird es im 21. Jahrhundert nicht nur um die Kontrolle von Territorien, Ressourcen, Seewegen, Energie oder Märkten gehen. Es geht auch um die Fähigkeit, die Wahrnehmung zu organisieren. Wer es schafft zu entscheiden, was vor unseren Augen erscheint, was sich wiederholt, was überprüft wird, was als zweifelhaft gilt und was aus dem Feld der Aufmerksamkeit verschwindet, verfügt über eine Form von Macht, die mit herkömmlichen Instrumenten nur schwer zu messen ist.

Die neuen Architekten der Realität müssen Millionen von Menschen nicht vorschreiben, was sie denken sollen. Es kann ausreichen, zu entscheiden, was sie zuerst sehen, was sie hundertmal sehen und was sie möglicherweise überhaupt nicht sehen werden.

„Die Macht des 21. Jahrhunderts besteht möglicherweise nicht nur in der Kontrolle von Informationen, sondern auch in der Gestaltung der Landschaft, in der jeder Mensch glaubt, frei zu blicken …“

KANN DIE DEMOKRATIE OHNE EINE GEMEINSAME REALITÄT ÜBERLEBEN?

Demokratie erfordert nicht, dass alle gleich denken. Es existiert gerade deshalb, weil wir anders denken. Aber es erfordert ein Mindestmaß an Gemeinsamkeit: dass eine Wahl stattgefunden hat, dass eine bestimmte Person einen bestimmten Satz gesagt hat, dass ein Krieg an einem bestimmten Datum begonnen hat, dass eine Figur zum Bereich der Fakten gehört und nicht nur zum Bereich der Präferenzen.

„Eine Demokratie kann Millionen widersprüchlicher Meinungen überleben. Was es kaum überleben kann, sind Millionen unvereinbarer Realitäten…“

„Künstliche Intelligenz muss die Wahrheit nicht zerstören, um Macht zu erlangen. Es müssen nur so viele Versionen multipliziert werden, dass die Wahrheit am Ende wie eine weitere aussieht …“

„Vielleicht wird es in der großen politischen Schlacht des 21. Jahrhunderts nicht nur um die Entscheidung gehen, wer regiert. Es wird darüber entscheiden, wer noch die Autorität behält, zu beweisen, dass tatsächlich etwas passiert ist …“

„Damit beginnt eine neue Ungleichheit zwischen Wahrheit und Falsch…“

„Man braucht Zeit, um sich zu beweisen.“

„Der andere braucht nur Geschwindigkeit, um sich durchzusetzen…“

Autor: Mauricio Herrera Kahn

Kurze Bibliographie

• Robert Chesney und Danielle Keats Citron – Deep Fakes: Eine drohende Herausforderung für Privatsphäre, Demokratie und nationale Sicherheit, California Law Review, 2019.

Untersucht, wie Deepfakes das öffentliche Vertrauen verändern, demokratische Prozesse beeinträchtigen und es ermöglichen können, nicht nur falsche Ereignisse zu fabrizieren, sondern auch authentische Beweise zu leugnen. Es ist eine besonders wichtige Referenz für das Konzept der „zweiten Täuschung“.

• Claire Wardle und Hossein Derakhshan – Informationsstörung: Auf dem Weg zu einem interdisziplinären Rahmen für Forschung und Politikgestaltung, Europarat, 2017.

Untersucht Desinformation als Ökosystem, in dem Falschinformationen, Manipulation, digitale Verbreitung und soziales Verhalten interagieren. Es ist besonders nützlich, um zu verstehen, wie Netzwerke Wiederholung, Geschwindigkeit und Viralität in den Anschein von Wahrheit verwandeln können.

Historisches und politisches Denken

• Walter Lippmann – Öffentliche Meinung, 1922.

Eine grundlegende Arbeit über die Art und Weise, wie Menschen ihre Wahrnehmung der Welt durch Bilder, Stereotypen und Darstellungen konstruieren, die nicht unbedingt der direkten Realität entsprechen. Ein Jahrhundert später erhalten seine Überlegungen angesichts von Algorithmen, sozialen Medien und künstlicher Intelligenz eine neue Dimension.

• Hannah Arendt – Wahrheit und Politik, 1967.

Reflektiert den Konflikt zwischen faktischer Wahrheit und politischer Macht. Ihr Denken ist besonders relevant in einer Welt, in der Fakten manipuliert, bestritten oder direkt geleugnet werden können und in der letztendlich der Verlust einer gemeinsamen Realität droht

Mauricio Herrera Kahn