Kyberzápisník #40 Proč Google indexoval sdílené konverzace s Claude a co s tím dělá Anthropic

O víkendu 25. července se na Redditu objevil jednoduchý postřeh. Stačilo do Google zadat site:claude.ai/share a vyskočil dlouhý seznam cizích konverzací s chatbotem Claude od společnosti Anthropic. Thread na ClaudeAI subredditu nabral přes 640 komentářů během pár hodin. Během pondělí se o tom psalo prakticky ve všech velkých technologických redakcích, od TechCrunch přes Axios po Fortune.

Co všechno se v Google objevilo

Podle zjištění TechCrunch a Fortune šlo o konverzace pokrývající úplně všechno, co si lze u AI chatbotu představit. Pracovní poznámky, programátorské diskuze, smyšlené recenze knih, erotické texty a taky citlivé osobní údaje, jako jsou lékařské záznamy nebo telefonní čísla nezletilých.

Blog IT lídra Daniela Glovera popisuje konkrétnější případy. Mezi nalezeným obsahem byla živá kryptoměnová peněženka s viditelnými přístupovými klíči a reálným zůstatkem, kterou si ověřilo hned několik komentujících. Dál diskuze o tom, zda má advokát nahlásit vlastní profesní pochybení, něčí životopis, identifikovatelný zaměstnanec velké technologické firmy a shrnutí klinické studie.

Zasažené nebyly jen samotné konverzace, ale i takzvané Artifacts, tedy mini aplikace a interaktivní nástroje, které si uživatelé v Claude vytvářejí a sdílejí dál.

Jak se sdílená konverzace vůbec dostane do Googlu

Funkce sdílení v Claude je podle nápovědy Anthropicu myšlená jako rychlý způsob, jak poslat snapshot konverzace konkrétním lidem, typicky kolegům nebo přátelům. Po kliknutí na „Sdílet“ vznikne unikátní odkaz s náhodným identifikátorem (UUID), který nikdo neuhodne náhodou.

Problém není v tom, že by Google ten identifikátor prolomil. Jak správně dovodili komentující na Redditu, odkaz se do indexu dostane jedině tak, že ho někdo vloží někam, kam se crawler dostane. Typicky veřejné fórum, Discord server nebo příspěvek na sociální síti. Jakmile je odkaz jednou veřejně dostupný, chová se úplně stejně jako jakákoliv jiná webová stránka.

Mluvčí Anthropicu to shrnula podobně ve vyjádření pro více redakcí. Firma nesdílí adresáře chatů ani sitemapy vyhledávačům a odkazy nejsou dohledatelné, dokud je někdo sám nezveřejní.

Proč to nedělá Google Docs

Nejzajímavější technický detail se skrývá v porovnání s Google Docs, který nabízí prakticky identickou funkci sdílení „komukoli s odkazem“. Dokumenty sdílené tímto způsobem se v Google běžně nezaindexují. Server Cybernews i The Next Web na to upozorňují se stejným závěrem. Rozdíl není v samotné myšlence sdílení, ale v chybějící direktivě pro vyhledávače.

Mluvčí Google Ned Adriance to potvrdil přímo. Site owner má plnou kontrolu nad tím, jestli se stránka crawluje a indexuje, prostřednictvím robots.txt nebo noindex tagů, a Google tyto direktivy respektuje. Anthropic tuto možnost u sdílených odkazů zjevně nepoužil, takže volba nechat odkazy indexovatelné byla na jejich straně.

Tohle se už jednou stalo

Nejde o žádnou novou neznámou díru. Server Forbes reportoval téměř identický problém už loni v září, kdy Google zaindexoval necelých 600 konverzací s Claude, než je Anthropic nechal z indexu odstranit. Firma tehdy tvrdila, že crawlerům přístup zablokovala.

Stejný scénář se opakuje o rok později, jen ve větším měřítku a navíc s Artifacts. Podobné potíže se dřív objevily i u ChatGPT, což OpenAI vyřešilo kompletní změnou způsobu sdílení konverzací, a u Groku od xAI, kde loni unikly stovky konverzací podobným způsobem.

Odstranění z Google nic neřeší

Nejdůležitější poučka z celé kauzy nesouvisí s Googlem, ale s tím, co se stane potom. Odstranění stránky z vyhledávače neznamená, že přestala existovat. Odkaz na původní adrese funguje dál pro každého, kdo ho má nebo kdy měl.

Glover ve svém blogu zmiňuje, že jeden z uživatelů stihl naškrábat 25 stránek výsledků do veřejného GitHub repozitáře, než ho ostatní přemluvili obsah smazat. Zároveň existuje třetí strana provozující agregátor, který sbírá zveřejněné Artifacts podle názvu. Jakmile je jednou obsah indexovaný, kopie se šíří rychleji, než ho stihne kdokoliv stáhnout z internetu.

Co s tím

Anthropic po víkendu odkazy z indexu odstranil, podle několika zdrojů se to ale ještě v pondělí dopoledne nepodařilo stoprocentně. Kdo někdy v Claude použil funkci sdílení, může aktivní odkazy zkontrolovat a případně zrušit v nastavení Settings, Privacy, Shared Chats, Manage.

Základní poučení zůstává stejné jako u každé podobné kauzy kolem AI chatbotů. Sdílený odkaz je veřejný odkaz, i když to tak na první pohled nevypadá, a jakmile jednou opustí ruce toho, kdo ho vytvořil, přestává být pod kontrolou.