Umělá inteligence se dostala do rukou útočníků způsobem, který ještě před rokem zůstával v rovině spekulací. Letos v květnu Google Threat Intelligence Group (GTIG) zveřejnil první potvrzený případ, kdy kriminální skupina použila AI k vývoji funkčního zero-day exploitu a plánovala ho nasadit při masovém útoku.

Co se stalo

Útočníci si vzali na mušku populární open-source nástroj pro webovou správu systémů. Pomocí AI analyzovali jeho zdrojový kód, identifikovali logickou chybu v autentizační vrstvě a vytvořili Python skript, který tuto chybu zneužil k obejití dvoufaktorového ověření (2FA).

Google zasáhl dřív než kampaň naplno odstartovala zranitelnost byl nahlášena výrobci a opravena ještě před masovým nasazením exploitu.

Jak Google poznal, že exploit psal AI

Skript se prozradil sám. Obsahoval přehnaně podrobné komentáře (tzv. docstrings), které žádný skutečný útočník nepíše, hallucinated CVSS skóre neexistující v žádné databázi a učebnicově čistou strukturu kódu typickou pro výstup jazykových modelů. AI exploit zanechal rukopis, který zkušený analytik pozná.

Důležitá nuance

Titulky typu „AI obešla 2FA“ jsou zavádějící. Exploit fungoval pouze tehdy, pokud útočník již měl platné přihlašovací údaje. Nešlo o průlom do systému od nuly, ale o eskalaci jakmile jsou credentials kompromitovány, 2FA přestane být překážkou.

Skutečná změna hrozebného modelu je jinde: AI zkrátila dobu mezi existencí zranitelnosti a funkčním exploitem z týdnů na hodiny. To je jiná liga.

Širší kontext

Nejde o ojedinělý případ. GTIG zároveň dokumentuje, že severokorejská skupina APT45 posílá tisíce automatizovaných promptů AI modelům, aby rekurzivně prohledávaly CVE databáze a validovaly proof-of-concept exploity. Budují arsenal v průmyslovém měřítku.

Co z toho plyneHlavní analytik GTIG John Hultquist to shrnul jednoduše: „Existuje mylná představa, že závod v AI zranitelnostech teprve přichází. Realita je, že už začal.“

Co z toho plyne

AI v rukou útočníků zatím nedělá zázraky tento exploit byl nedokonalý a Google ho odhalil právě díky jeho „strojovým“ stopám. Problém je, že příští generace těchto nástrojů bude méně nápadná a rychlejší.

Pro bezpečnostní týmy to znamená jedno: spoléhat se na 2FA jako na poslední linii obrany nestačí. Klíčová jsou silná detekce anomálií v přihlašování, rotace credentials a monitoring neobvyklého chování i po úspěšné autentizaci.

Zdroje

Google GTIG report (primární zdroj):https://cloud.google.com/blog/topics/threat-intelligence/ai-vulnerability-exploitation-initial-access
The Hacker News:https://thehackernews.com/2026/05/hackers-used-ai-to-develop-first-known.html
SecurityWeek:https://www.securityweek.com/google-detects-first-ai-generated-zero-day-exploit/
The Register:https://www.theregister.com/ai-ml/2026/05/11/google-says-criminals-used-ai-built-zero-day-in-planned-mass-hack-spree/5237982