Kyberzápisník #78: Anthropic odhalil, jak stát i zločinci zneužívali AI Claude

Anthropic zveřejnil nový Threat Intelligence Report, který popisuje, jak byl model Claude v období od prosince 2025 do srpna 2026 zneužíván k útokům, špionáži a dalším škodlivým aktivitám. Report je rozsáhlý (přes 150 stran) a pokrývá sedm oblastí zneužití AI, od kybernetických operací přes vývoj zbraní až po nelegální kopírování samotného modelu. Zajímavé je hlavně to, kolik práce dnes AI dokáže udělat sama, včetně orchestrace celých útoků bez větší lidské asistence.

Za útoky stály podezřelé státní skupiny, finančně motivovaní zločinci, komerční spyware firmy i propagandistické instituce. Anthropic ve všech případech účty zablokoval, posílil ochranná opatření a v řadě případů sdílel informace s úřady a partnery.

AI Claude jako orchestrátor útoků, ne jen asistent

Hlavní trend, který report zdůrazňuje, je posun role AI od pomocníka k řídicímu prvku celé operace. Multi-agentní systémy dnes samy provádějí průzkum cíle, exploitaci, exfiltraci dat i přestavbu malwaru poté, co ho odhalí antivirové programy. Lidský operátor často jen zadá cíl a kontroluje výsledek.

Tím pádem klesá bariéra dovedností potřebných k provedení sofistikovaného útoku. Kampaně, které dřív vyžadovaly tým specialistů, dnes zvládne i jednotlivec s přístupem k výkonnému jazykovému modelu.

Kybernetické operace

Nejvýraznějším případem je operace označená GTG-20006, spojovaná s ruskou skupinou podobnou Midnight Blizzard. Útočníci cílili na ukrajinské a evropské vládní, vojenské a diplomatické instituce a také na dodavatelský řetězec vojenských dronů. Používali AI-řízený phishing, únos hotelových Wi-Fi sítí přes DNS hijacking a přebírání WhatsApp účtů. Zvlášť pozoruhodné je, že jejich AI agenti sami sledovali, jestli malware odhalí antivirus, a pokud ano, kód přestavěli a nasadili znovu. Z jedné severoafrické vládní databáze takto unikly přes 300 000 národních identifikačních záznamů.

Druhým velkým případem jsou afilianti skupiny ShinyHunters, kteří provozovali klasické finančně motivované „smash and grab“ útoky, tedy rychlou krádež dat s následnou extorzí nebo prodejem. AI jim masově stahovala a analyzovala aplikace z Android storu i repozitáře na GitHubu ve snaze najít zapomenuté přístupové klíče. Po kompromitaci jednoho SaaS poskytovatele dokázali za pouhých 34 hodin získat data zhruba 200 zákazníků a přes 2 100 přístupových tokenů Azure AD.

Sledování a vlivové kampaně

Report popisuje i případy spojené s čínskými bezpečnostními složkami, které využívaly AI ke sledování Ujgurů, disidentů a náboženských komunit, například katolických duchovních nebo tibetských buddhistů. V některých případech se citlivá data k Claude dostala oklikou, přes přesměrování z čínských modelů. Dalších devět případů se týkalo vlivových operací z Ruska, Íránu, Turecka i jiných regionů. Šlo například o proruskou propagandu v Centrální Africe nebo kampaně zaměřené na volby v Moldavsku a Keni.

Vývoj konvenčních zbraní

Nejzávažnější případ pochází ze severního Jemenu, kde buňka spojená s teritoriem pod kontrolou hnutí Húsíů využívala Claude Code místo lidských softwarových inženýrů k vývoji hned tří zbraňových programů zároveň: naváděné rakety, vícestupňové balistické rakety s doletem přes 2 000 kilometrů a hypersonického kluzáku. Test navádění rakety podle reportu selhal, ale operátoři se během několika hodin vrátili k AI, aby analyzovali telemetrii a zjistili příčinu. Podobné případy, kdy AI Claude pomáhala s vývojem software pro řízené střely nebo cílící systémy, se objevily i v souvislosti s Čínou a Ruskem.

Biologické zneužití

Anthropic tuto oblast označuje za jednu z nejzávažnějších rizik spojených s pokročilou AI, i když se v reportu objevuje jen pět zdokumentovaných případů. Společně je spojuje snaha aktérů obejít regionální omezení modelu a zamaskovat skutečný účel dotazů tak, aby vypadaly jako legitimní vědecká práce.

Nejvíce citovaný případ z května 2026 se týkal žádosti o pomoc s grantovou přihláškou na gain-of-function výzkum viru chikungunya, konkrétně na zvýšení jeho přenosnosti a schopnosti unikat imunitní odpovědi. Podle Anthropicu za žádostí stál vojenský výzkumný institut. Model žádost odmítl, aktér ale následně zkusil ochranu obejít pomocí evasion platformy, která po zamítnutí automaticky přesměrovala stejný dotaz na jiný, méně chráněný AI model.

Zbylé případy měly podobný charakter. Jeden aktér plánoval experimenty s ptačí chřipkou zaměřené na adaptaci viru na savčí organismy, což je krok, který zvyšuje riziko přenosu na člověka. Další žádosti se týkaly grantů na výzkum orthopoxvirů (skupina, do které patří například viry pravých a opičích neštovic) s cílem prozkoumat únik imunitní odpovědi.

Anthropic u těchto případů zdůrazňuje, že jde o mimořádně nuancovanou oblast. Stejný typ výzkumu, tedy práce na přenosnosti patogenů nebo obcházení imunity, může sloužit vývoji vakcín a lepšímu porozumění budoucím pandemiím, ale za jiných okolností i vývoji biologických zbraní. Rozlišit legitimní vědu od potenciálně nebezpečného dual-use výzkumu je podle firmy extrémně obtížné, a právě proto se tato kategorie posuzuje individuálně a s největší opatrností ze všech sedmi oblastí v reportu.

Nelegální kopírování modelu

Poslední kategorií je takzvaná illicit distillation, tedy pokusy okopírovat schopnosti Claude pro trénink konkurenčních modelů. Od února 2026 Anthropic odhalil a přerušil kampaně několika čínských laboratoří, including Alibaba, Moonshot, DeepSeek, Xiaomi a Zhipu. Nejrozsáhlejší byla kampaň Alibaba, která přes falešné účty vygenerovala přes 151 milionů výměn zaměřených právě na řetězec uvažování modelů Opus. Zajímavostí je, že některé laboratoře přitom nevědomky přesměrovávaly požadavky vlastních uživatelů na Claude, včetně citlivých dat ze sledovacích operací nebo ruských vládních přihlašovacích údajů.

Co si z toho odnést

Report ukazuje jasný posun v tom, jak se AI modely zneužívají. Nejde už jen o pomoc s psaním phishingových mailů nebo hledáním zranitelností. AI dnes umí řídit celé kampaně, adaptovat se na obranná opatření v reálném čase a zvládat objem práce, který by dřív vyžadoval desítky lidí. Anthropic reaguje posilováním ochranných mechanismů hlavně v oblasti biologických a kybernetických rizik a spoluprací s bezpečnostními složkami a dalšími AI laboratořemi.

Zdroje

Další články

Leave a Reply

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *