Hugging Face: Künstliche Intelligenz greift Plattform an – und verteidigt sie
Ein beispielloser Vorfall erschüttert die KI-Community: Hugging Face, eine zentrale Anlaufstelle für Open-Source-KI-Modelle, wurde Opfer eines Angriffs, der von einem autonomen KI-System initiiert wurde. Doch nicht nur der Angriff selbst ist bemerkenswert, sondern auch die Tatsache, dass Hugging Face die Bedrohung maßgeblich mit eigenen KI-gestützten Werkzeugen erkennen und abwehren konnte.
Der Angriff: Eine neue Dimension der Bedrohung
Wie Hugging Face in einer offiziellen Erklärung darlegte, handelte es sich bei der Intrusion, die zu Beginn dieser Woche entdeckt wurde, um eine Attacke, die „von einem System autonomer KI-Agenten gesteuert wurde – und zwar von Anfang bis Ende“. Diese Agenten nutzten Schwachstellen in der Datenverarbeitungs-Pipeline der Plattform aus, indem sie Code in Datensätzen injizierten und Konfigurationsvorlagen manipulierten. Dadurch erlangten sie Zugriff auf verschiedene Cluster, sammelten Anmeldedaten und konnten sich über das gesamte Wochenende unbefugt bewegen.
Der Zugriff beschränkte sich auf einen begrenzten Satz interner Daten und Anmeldeinformationen. Ob Kundendaten betroffen sind, wird derzeit noch untersucht. Glücklicherweise konnten keine Manipulationen an öffentlichen Modellen oder der Software-Lieferkette festgestellt werden.
Ein unbekanntes LLM im Einsatz Das verwendete Angriffssystem scheint auf einem noch unbekannten Large Language Model (LLM) zu basieren, das in der Lage ist, tausende individuelle Aktionen durch ein Schwarmverhalten von kurzlebigen Sandboxes auszuführen. „Dies entspricht dem von der Branche prognostizierten Szenario eines Agenten-basierten Angreifers“, so Hugging Face.
KI als Verteidiger: Analyse von 17.000 Ereignissen
Doch Hugging Face reagierte mit eigenen KI-gestützten Mitteln. Das Unternehmen setzt ebenfalls LLMs ein, um „Rauschen“ von echten Angriffen zu filtern. Im aktuellen Fall wurden LLM-basierte Analyseagenten auf das vollständige Aktionsprotokoll des Angreifers angewendet, das mehr als 17.000 Ereignisse umfasste – eine Datenmenge, die für einen menschlichen Analysten schlicht unmöglich zu bewältigen wäre.
Durch diese Analyse konnten die Fakten im Zeitverlauf rekonstruiert, betroffene Anmeldedaten identifiziert und die vom Angreifer eingesetzten Köder aufgedeckt werden. Bei der Verwendung kommerzieller API-Modelle für die Verteidigung stieß Hugging Face jedoch auf eine unerwartete Hürde: Diese Modelle blockierten die Analyse, da sie den Unterschied zwischen den Aktionen eines Angreifers und denen eines Sicherheitsanalysten nicht erkennen konnten. Stattdessen wurde das Open-Source-Modell GLM 5.2 eingesetzt, das keine solchen Einschränkungen aufweist. Welches LLM der Angreifer tatsächlich verwendet hat – ob ein „jailbroken“ Modell oder ein Open-Source-Modell – bleibt unklar.
„Autonome, KI-gesteuerte Angriffswerkzeuge sind keine Theorie mehr“, betont Hugging Face. „Sie senken die Kosten für die Durchführung einer umfassenden, geduldigen und mehrstufigen Kampagne und operieren mit der Geschwindigkeit einer Maschine.“
Die Plattformbetreiber müssen ihre Daten und Modelloberflächen nun als primäre Angriffsfläche behandeln und KI zur Verteidigung einsetzen, um mitzuhalten. Die Entwicklung zeigt deutlich, dass der Wettlauf zwischen Angriff und Verteidigung im Bereich der künstlichen Intelligenz immer intensiver wird. Die Fähigkeit, KI zur Abwehr von KI-basierten Angriffen einzusetzen, wird zu einem entscheidenden Faktor für die Sicherheit von Online-Plattformen.