Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?

E in junger Mann warf diese Woche unter Absingen schmutziger Lieder seinen Job hin: Nur Wahnsinnige da in der Firma. So weit, so vertraut. Nur dass Jacob Coxon, Brite, 27, sein Lied auf X, vormals Twitter, veröffentlichte, und das klang so: „Ich habe heute bei Anthropic gekündigt“, schrieb er. Drei Jahre habe er bei den KI-Unternehmen OpenAI und Anthropic verbracht. „Sie setzen unser Leben aufs Spiel.“ Die Leute, die künstliche Intelligenz erschüfen, „glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts umbringen könnte“. Dies sei kein Marketingtrick.

Coxon ist nicht der Erste, der so warnt. Aber dass es immer mehr werden, kann halt nicht beruhigen. Es werden kaum alle aus der Branche, die vor den Gefahren der künstlichen Intelligenz warnen, bloße Wichtigtuer sein, die Investoren anlocken oder sich selbst als KI-Berater („Für nur 500 Euro die Stunde rette ich euch!“) andienen wollen. Als die KI-Programme des ChatGPT-Herstellers OpenAI sich im Juli selbstständig gemacht hatten und beim KI-Anbieter Hugging Face eingebrochen waren, ging der Deutungstrend zunächst auch erst Richtung „Aufschneider!“. Nach einigen Expertenberichten bog er allerdings in Richtung „Schreck lass nach!“ ab.

Als echtes Kind der Bundesrepublik frage ich mich längst: Technik hin, Technik her, aber was sagt bitte der Rechtsstaat dazu? Und wenn wir von US-amerikanischen Unternehmen sprechen: Ihr klagt euch doch sonst wegen jedes defekten Eierkochers den Hintern ab – wo sind eure melodramatischen Geschworenengerichte jetzt? Was ich meine: Bevor die künstliche Intelligenz uns alle umbringt, wüsste ich gern, wo sie versichert ist (was nimmt die Allianz monatlich an Prämien von potenziellen Menschheitszerstörern?), wo sie verklagt werden kann und welches höchstrichterliche Urteil gegen den möglichen Weltuntergang vorliegt.

Matthias Spielkamp kann meine Fragen gut einordnen: „Es wird immer weiter über die Fähigkeiten der KI diskutiert, aber der entscheidende Punkt ist doch, wer dafür verantwortlich ist“, sagt er. Spielkamp hat AlgorithmWatch gegründet und kämpft seit über zehn Jahren für mehr Transparenz und Kontrolle in der digitalen Welt. Dass die künstliche Intelligenz Schaden anrichten könne – aber auch Nutzen stiften –, sei doch völlig klar, sagt er.

Es müsse eben wie bei jedem potenziell gefährlichen Produkt die Haftung geregelt sein. „Man stelle sich vor, Mercedes würde Zehntausende Lkws mit defekten Bremsen ausliefern – der Schadenersatz, der droht, wäre gigantisch!“, erklärt Spielkamp. „Damit kann man zwar noch nicht verhindern, dass einer mit dem Lkw in eine Menschenmenge fährt. Aber jedenfalls kann man dafür sorgen, dass Mercedes das nicht noch mal passiert.“

Den Vergleich finde ich hilfreich. Es stellt sich heraus, dass Deutschland just dieses Jahr eine EU-Richtlinie zum Thema umsetzt: Das neue Produkthaftungsrecht kommt im Dezember, es ist die erste Novelle seit 1989. Man stelle sich vor, was seitdem alles an Unheil stiftenden Dingen erfunden wurde! Wie viele Saugroboter schon die Fransen teurer Teppiche gefressen haben! In der Gesetzesbegründung nennt die Bundesregierung ausdrücklich die nötige Regelung der künstlichen Intelligenz: Hersteller könnten künftig auch haften für Schäden durch Produkte „wie insbesondere KI-Systeme, die die Fähigkeit aufweisen weiterzulernen“. Nun ja, könnten. Aber immerhin.

Wenn das also halbwegs geklärt ist: Sobald eine KI übergriffig wird, müsste sich demnach nur noch eine Klägerin fix melden, eine Richterin rechtzeitig zum Urteil kommen, ein handlungsfähiger Staat noch vorhanden sein. Ich weiß nicht, wer sagen kann, wie eng dieses Rennen wird.