KI hat geholfen, einen kritischen Fehler zu finden, der weite Teile des Internets betrifft

Neu bekannt gegebene Schwachstellen könnten sich auf weite Teile des Internets auswirken, nachdem sie von Teams aus Cybersicherheitsexperten entdeckt wurden – mit starker KI-Unterstützung.

Die Probleme betreffen PHP, eine weit verbreitete Open-Source-Programmiersprache, die eine Grundlage für Content-Management-Systeme wie WordPress bildet, das eine breite Palette von Websites betreibt (einschließlich der des Center for Investigative Reporting).

Wenn die Sicherheitslücken nicht behoben werden, können schnell agierende Angreifer die Kontrolle über eine Website übernehmen, Malware hinzufügen oder Benutzerdaten stehlen.

Die Ankündigung führte dazu, dass Cybersicherheitsteams sich mit der Installation von Korrekturen beschäftigten, die von PHP-Entwicklern veröffentlicht wurden. Behörden auf der ganzen Welt gaben dringende Ankündigungen heraus und einige Regierungswebsites in Europa und Kanada wurden wegen Aktualisierungen geschlossen.

EntsprechendBerichterstattung aus derWall Street Journal, die Art der Sicherheitslücke wurde schon vor Jahrzehnten festgestellt, „aber der Fehler galt als zu schwer auszunutzen und geriet weitgehend in Vergessenheit“, bis Forscher im August mithilfe neuer Modelle einen Weg fanden, ihn auszunutzen. Dazu gehörten das zuletzt veröffentlichte Modell von Google und eines von OpenAI, das im Juli veröffentlicht wurde.

OpenAInannte die Entdeckung„eines der schwerwiegendsten Sicherheitsprobleme der letzten Zeit“, aber es ist Teil eines viel umfassenderen Musters. Eine Grafikzusammengestellt von der gemeinnützigen Forschungsorganisation Epoch AIzeigt die Anzahl der erheblichen Schwachstellen, die jeden Monat von einigen der größten Technologieanbieter und Open-Source-Projekten gemeldet werden:

Vor ein paar Jahren meldeten sie vielleicht ein paar Dutzend kritische Schwachstellen in einem bestimmten Monat – heute sind es in einem typischen Monat 600. OpenAI sagte in derselben Erklärung, dass die heute bekannt gegebenen Schwachstellen nur einige „von mehreren bedeutenden Schwachstellen sind, die wir bereits gefunden haben und an deren Behebung wir arbeiten, und wir gehen davon aus, dass ähnliche Ergebnisse in den kommenden Monaten stark zunehmen werden.“

Greg Brockman, Präsident und Stellvertreter von OpenAI,habe heute separat geschriebendass der Prozess zum Erstellen von Fixes für den PHP-Fehler langsam und manuell war und nicht funktionieren würde, da in den kommenden Monaten mit weiteren Exploits zu rechnen ist.

Er schlug vor, dass Regierungen möglicherweise eine weitaus größere Rolle bei der Überwachung der Infrastruktur im Internet übernehmen und möglicherweise sogar selbst eingreifen müssen, um Schwachstellen auf anderen Servern zu beheben.

Cybersicherheit ist ein zentraler Schwerpunkt für KI-Führungskräfte und politische Entscheidungsträger, insbesondere seit April, als klar wurde, dass Claude Mythos Preview von Anthropic kritische Software-Schwachstellen selbstständig erkennen und ausnutzen kann. Das führte dazu, dass Anthropic die Veröffentlichung des Modells zurückhielt und zusammen mit OpenAI daran arbeitete, vertrauenswürdigen Partnern – wie großen Unternehmen und Regierungsbehörden – im Voraus Zugriff auf ihre Modelle zu gewähren, um die Cyberabwehr zu stärken.

Als ich im August mit Experten zu KI-Risiken sprach, sagten sie mir, dass wir wahrscheinlich nur noch wenige Monate davon entfernt seien, dass KI bei fortgeschrittenen Cyberangriffen helfen könne. 

Ein großer Teil ihrer Befürchtungen hatte mit den Modellen mit offenem Gewicht zu tun, bei denen die Sicherheitsvorkehrungen aufgehoben werden können und die den Fähigkeiten der besten Modelle mit geschlossenem Gewicht durchweg um etwa 6 bis 12 Monate hinterherhinken. Die Sorge besteht darin, dass jeder Hacker bald Zugriff auf ein so starkes Modell wie Claude Mythos haben wird und jede Institution ins Visier nehmen kann, die bei der Cybersicherheit etwas hinterherhinkt – vom örtlichen Versorgungsunternehmen bis hin zum Krankenhaus am Ende der Straße.

Das ist immer noch ein Grund zur Sorge, und Open-Weight-Modelle könnten bei der Ausnutzung von Schwachstellen, wie sie PHP betreffen, sehr hilfreich sein. Die heutigen Nachrichten zeigen jedoch, dass Open-Weight-Modelle nicht der einzige Grund zur Besorgnis über die Cybersicherheit sind.

Zusätzlich zum PHP-ProblemDie InformationengemeldetHeute haben Hacker mithilfe von Modellen von Anthropic, dem chinesischen Unternehmen Moonshot und anderen weitgehend automatisierte Angriffe auf 400 Finanzinstitute in ganz Lateinamerika durchgeführtElon Musks UnternehmenSpaceXSI (früher SpaceXAI, früher xAI). Sie haben offenbar einige Sicherheitsvorkehrungen umgangen, indem sie die Modelle davon überzeugt haben, dass sie in harmlosen Umgebungen getestet wurden.

Natürlich entwickeln KI-Modelle nicht nur im Cyberspace übermenschliche Fähigkeiten. Die führenden Modelle zerstören Probleme, die ins Stocken geraten sindTop-Mathematikerund zunehmendPhysiker. KI hilft dabei, Proteine ​​und Viren auf eine Weise zu entwerfen, die dies ermöglichtvielversprechende medizinische Anwendungen Undkönnte zu Verräterien führenBiowaffenforschung.

KI versetzt uns bereits in eine Welt mit mehr Möglichkeiten und mehr Gefahren. Es gibt eine ganze Menge Arbeit, um mithalten zu können.