KI: der Geist aus der Flasche

New York hat gerade eine Debatte eröffnet, der sich Chile nicht entziehen sollte. Sein Bürgermeister, Zohran Mamdani, verhängte ein einjähriges Moratorium für den direkten Einsatz generativer künstlicher Intelligenz für fast 600.000 Schüler öffentlicher Schulen, vom Vorschulalter bis zur achten Klasse.

Dabei geht es nicht darum, künstliche Intelligenz zu verbieten, sondern darum, ihre Auswirkungen zu untersuchen, bevor man sie in einem entscheidenden Stadium der menschlichen Entwicklung, der Kindheit, massiv einsetzt.

Generative künstliche Intelligenz ist in der Lage, auf der Grundlage der empfangenen Anweisungen Inhalte zu erstellen: Sie kann schreiben, Fragen beantworten, Probleme lösen oder Bilder, Videos und Musik erstellen. Gerade weil sie so viele Dinge tun kann, die zuvor menschliche intellektuelle Anstrengungen erforderten, müssen wir uns fragen, was passiert, wenn wir diese Fähigkeit in die Hände von Kindern legen, die noch die Fähigkeiten entwickeln, die die Maschine ersetzen kann.

Die grundlegende Frage ist nicht technologischer Natur. Das ist es, was wir unter Bildung verstehen.

Schule dient nicht nur der Informationsvermittlung. Bildung zielt auf die umfassende Entwicklung von Mädchen und Jungen ab: Sie sollen lernen, zu denken, zu kreieren, Fragen zu stellen, Fehler zu machen, durchzuhalten, mit anderen in Beziehung zu treten und Probleme zu lösen.

Kognitive Anstrengung ist ein grundlegender Bestandteil des Lernens und der sozioemotionalen Entwicklung. Nach einer Antwort suchen und sie nicht finden, einen Fehler machen, frustriert werden, einen anderen Weg ausprobieren, es erneut versuchen und schließlich verstehen, sind lehrreiche Erfahrungen. Der Prozess ist wichtiger als das Ergebnis.

Eine KI, die sofort eine außergewöhnlich detaillierte Antwort liefert, kann für jemanden, der diese Fähigkeiten bereits entwickelt hat, beeindruckend sein. Das Risiko entsteht, wenn es genau die Anstrengung ersetzt, mit der ein Kind sie erwerben muss.

Gleiches gilt für das Zusammenleben mit anderen. Wir lernen, indem wir reden, zuhören, anderer Meinung sind, kooperieren, Konflikte lösen und Bindungen aufbauen. Empathie kann nicht aus dem Internet heruntergeladen werden. Es entwickelt sich durch die Beziehung zu anderen Menschen.

Deshalb ist die seit 2023 gültige Empfehlung der UNESCO relevant: Sie schlägt 13 Jahre als Mindestalter für die eigenständige Nutzung generativer KI vor und fordert Datenschutz, Lehrerausbildung und pädagogische Evaluation. In einer Zeit, in der multilaterale Organisationen von Nationalisten und rechten Sektoren angegriffen werden, lohnt es sich, dies noch einmal zu bekräftigen. Der Schutz der kindlichen Entwicklung ist keine ideologische Position.

Auch Papst Leo XIV. warnt davor, künstliche Intelligenz mit menschlicher Intelligenz zu verwechseln: Eine Maschine verarbeitet Informationen, aber sie verfügt nicht über Erfahrungen oder reift durch Beziehungen. Der technologische Fortschritt kann entmenschlichend sein, wenn wir die Leistungsfähigkeit der Maschinen steigern und gleichzeitig die menschlichen Bindungen schwächen.

Wenn ein Labor ein Medikament entwickelt, bedeutet die Forderung nach Forschung und Nachweisen seiner Sicherheit nicht, dass es sich gegen Innovationen verhält. Die Geschichte von Thalidomid zeigt, warum es solche Schutzmaßnahmen gibt.

Wir wissen nicht, ob künstliche Intelligenz das neue Contergan sein wird. Die Lehre ist klar: Wenn eine Innovation tiefgreifende Auswirkungen auf die menschliche Entwicklung haben kann, sollten wir nicht warten, bis der Schaden bestätigt ist, bevor wir ihre Auswirkungen untersuchen und vorsorgliche Grenzwerte festlegen.

Wirtschaftliche Freiheit und Innovation sind grundlegend für den Fortschritt, aber sie sind keine absoluten Werte. Das Wohlergehen und die umfassende Entwicklung von Mädchen, Jungen und Jugendlichen haben Vorrang vor der wirtschaftlichen Freiheit, eine Technologie einzuführen, ohne deren Folgen ausreichend zu kennen.

Chile sollte das gleiche Vorsorgeprinzip anwenden: ein vorübergehendes Moratorium für die direkte Nutzung generativer KI durch Kinder in der Grundbildung verhängen und diesen Zeitraum nutzen, um ihre Auswirkungen zu untersuchen und zu bewerten. Auf Langzeitstudien zu warten, während die Technologie massiv umgesetzt wird, bedeutet, zu spät zu kommen.

Der Geist der künstlichen Intelligenz ist bereits aus der Flasche und wird nicht wieder hineingehen. Diese und zukünftige Generationen müssen lernen, ihn zu nutzen.

Aber es gibt eine Reihenfolge, die wir nicht rückgängig machen können.

Zuerst müssen wir Menschen formen, die in ihrer Würde anerkannt sind und die fähig sind, zu denken, zu schaffen, Fragen zu stellen, Fehler zu machen, durchzuhalten, mit anderen in Beziehung zu treten und Probleme zu lösen. Dann müssen wir ihnen beibringen, künstliche Intelligenz zu nutzen, um diese Fähigkeiten zu verbessern, und nicht, sie zu ersetzen.

Künstliche Intelligenz wird uns beim Aufbau einer besseren Bildung helfen, wenn wir in der Lage sind, sie auch in den Dienst dieses Ziels zu stellen: dass sie dazu beiträgt, vollwertige Menschen zu entwickeln, und dass sie uns selbst dabei hilft, zu vermeiden, dass wir uns am Ende wie Maschinen verhalten, indem wir uns auf ihre Antworten verlassen.

Marcelo Trivelli