Na začátku července 2026 zažila platforma Hugging Face bezpečnostní incident, který se od běžných útoků na cloudovou infrastrukturu zásadně liší. Podle vlastního oznámení společnosti byl celý AI kybernetický útok od začátku do konce řízen autonomním AI agentním systémem, nikoliv člověkem u klávesnice.
Jak AI kybernetický útok získal přístup do systému
Vstupním bodem byla samotná datová pipeline Hugging Face, tedy mechanismus, kterým platforma zpracovává a validuje nahrávaná data. Útočník nahrál škodlivý dataset, který zneužil dvě zranitelnosti současně:
- remote-code dataset loader, umožňující spuštění kódu při načítání datasetu
- template injection v konfiguraci datasetu
Kombinací obou děr se podařilo spustit kód na processing workeru. Odtud útok pokračoval klasickým postupem: eskalace na node-level přístup, sběr cloudových a clusterových credentials a laterální pohyb do dalších interních clusterů, to vše v průběhu jednoho víkendu.
Proč je tento AI kybernetický útok výjimečný
Předchozí případy zneužití AI v útocích typicky znamenaly, že útočník použil model jako nástroj pro dílčí úkol: generování kódu, sepsání phishingového e-mailu nebo automatizaci jednoho kroku. Tady šlo o něco jiného. Podle Hugging Face byla celá kampaň řízena autonomním agentním systémem s dosud neidentifikovaným LLM v pozadí, který samostatně provedl tisíce jednotlivých akcí napříč rojem krátkodobých sandboxů a využíval self-migrující C2 infrastrukturu stagovanou na veřejných službách.
Jinými slovy, agent si sám naplánoval postup, exploitoval zranitelnosti, eskaloval oprávnění a přesouval se laterálně bez průběžného zásahu člověka.
Obrana proti AI kybernetickému útoku pomocí AI
Hugging Face při reakci na incident nasadila vlastní AI-based forenzní analýzu. Díky ní se podařilo rekonstruovat časovou osu útoku, extrahovat indikátory kompromitace, zmapovat dotčené credentials a oddělit skutečný dopad od decoy aktivity, kterou útočník do prostředí zanesl. Podle firmy to umožnilo zvládnout analýzu v řádu hodin místo dnů, tedy tempem srovnatelným s rychlostí útočníka.
Zajímavým zjištěním je, že komerční frontier modely od velkých poskytovatelů byly pro účely obrany částečně nepoužitelné. Jejich guardraily blokovaly dotazy defenderů, protože obsahovaly reálné útočné příkazy, exploit payloady a artefakty C2 komunikace. Tento detail otevírá širší otázku, jak nastavit bezpečnostní mantinely modelů tak, aby nebránily legitimní forenzní práci.
Rozsah dopadu AI kybernetického útoku
Podle dosavadního šetření nebyly nalezeny důkazy o zásahu do veřejných modelů, datasetů ani Spaces, a firma označuje svůj software supply chain za ověřeně čistý. Hugging Face zároveň potvrzuje, že stále probíhá posouzení, zda byla zasažena data partnerů nebo zákazníků, a dotčené strany budou kontaktovány přímo.
Uživatelům platforma doporučuje rotovat access tokeny a zkontrolovat nedávnou aktivitu účtu na známky podezřelého chování.
Co si z tohoto AI kybernetického útoku vzít
Tento incident je pravděpodobně první veřejně zdokumentovaný případ, kdy byla velká AI platforma napadena pomocí plně autonomního agentního systému. Pro CTI komunitu to znamená posun v uvažování o rychlosti a škále útoků: pokud agent dokáže provést tisíce akcí za víkend napříč desítkami sandboxů, tradiční detekční okna postavená na lidském tempu přestávají stačit. Zároveň ukazuje, že stejný přístup, tedy nasazení AI na straně obrany, může být jedinou reálnou odpovědí na útoky téhle rychlosti.
Zdroje
- Hugging Face – Security incident disclosure, červenec 2026
- Help Net Security – Hugging Face breached by autonomous AI agent
- BleepingComputer – Hugging Face warns an autonomous AI agent hacked its network
- SecurityWeek – Hugging Face Hacked in Autonomous AI Attack
- The Hacker News – World’s Largest AI Model Repository Hugging Face Breached by Autonomous AI Agent
- Axios – Hugging Face says AI agent behind internal breach
