Banken haben Schwierigkeiten, Kunden vor ihren eigenen KI-Agenten zu schützen

Führende US-Banken haben Berichten zufolge nicht zugelassene KI-Agenten entdeckt, die im Namen der Benutzer in Kundenkonten agieren und manchmal unabhängig von deren Anweisungen handeln. Als Reaktion darauf greifen viele Institutionen dazu, die Tools zu blockieren oder ihre Sicherheitsrichtlinien zu überdenken. 

Laut aNicht autorisierte Aktivitäten treten typischerweise dann auf, wenn ein Benutzer einem KI-Assistenten Berechtigungen und Anmeldeinformationen erteilt.

Zum Beispiel Metas persönlicher KI-Agent MusePlaidgebenGeben Sie Ihre Bank-Zugangsdaten ein oder erlauben Sie Plaid den Zugriff auf Ihr Konto. Wie Axios anmerkt, verstößt diese Erlaubnis gegen die Richtlinien der meisten Banken, die im Allgemeinen verlangen, dass sich Menschen bei ihren eigenen Konten anmelden. 

Demnach schränken Banken wie JPMorgan Chase, Citigroup und Bank of America den Zugriff automatisierter Agenten auf Konten einFinancial Times, und viele erlauben nur eingeschränkten, schreibgeschützten Zugriff auf bestimmte KI-Tools. 

Ein hochrangiger Bankbeamter sagte gegenüber Axios, dass Banken Schwierigkeiten hätten, zwischen verschiedenen KI-Agenten zu unterscheiden, die auf Konten zugreifen, und auch, ob erkannte Aktivitäten von einem Agenten stammen, der von einem Kunden autorisiert wurde, oder von einem Agenten, der betrügerisch geworden ist. Das Problem erreicht ein Ausmaß, in dem Banken gezwungen sind, ihre Ressourceninvestitionen zu erhöhen, um sich auf Verstöße vorzubereiten und den Kundenzugang so schnell wie möglich wiederherzustellen – was angesichts der Tatsache, dass dies der Fall istandere aktuelle Entwicklungenbei KI-gestützten Cybersicherheitsverstößen wäre vielleicht ohnehin keine schlechte Idee gewesen.

AlsMiranda Bogen, der Gründungsdirektor des AI Governance Lab des Center for Democracy & Technology, erzählte mirim Juli– kurz nachdem OpenAI erstmals öffentlich bekannt gab, wie seine KI-Modelle Hugging Face, eine Plattform, die es Menschen ermöglicht, KI-Modelle zu teilen, verletzt haben, besteht für normale Benutzer von KI-Tools ein größeres Risiko, dass ihre Agenten auf Verbraucherebene Unternehmen verletzen, die grundlegende Datenverarbeitungspraktiken durchführen, und Anbieter kritischer Infrastrukturen wie Banken, Schulen und Krankenhäuser.