Váš spamfiltr nečte vaši poštu. Počítá indicií.

Google zablokuje téměř 15 miliard nežádoucích zpráv denně a dělá to bez ničeho, co byste poznali jako čtení. Žádný model tam neседí a nemluví slova připomenutí od vašeho zubního lékaře. Tato myšlenková představa – digitální zvědavec skloněný nad vaší poštou, absorbující vaše tajemství – je strach, který si většina lidí nese, a mířuje na nesprávný cíl.

Zde se dějí skutečné věci. Když pošta zasáhne filtr, systém se nezačíná zabývat vaší prózou. Začíná se obálkou. Kdo tuto zprávu poslal a má odesílací server skutečně oprávnění používat danou doménu? To jsou SPF, DKIM a DMARC – tři kontroly, které potvrzují, zda „billing@yourbank.com" pochází z infrastruktury vaší banky nebo z pronajatého serveru v něčí sklepě. Podvodník může kopírovat logo dokonale a stále selhat DKIM, a právě tato jediná kryptografická neshoda filtru řekne víc než kterákoliv věta v těle zprávy.

Pak přijdou levnější signály. Reputace odesílatele: vysílá tato IP adresa miliony identických zpráv? Analýza odkazů: ukazuje tlačítko „Klikněte zde" na místo, které viditelný text nepřipouští? Věk adresy URL, řetězce přesměrování, typy příloh. Největší část verdiktu o spamu je vyřešena dříve, než si model seriózně myslí o jazyku.

Když se jazyk objeví, není to pochopení – je to matematika. Staršífitr používaly Bayesovské klasifikátory, přístup, který Paul Graham popularizoval ve své esejí z roku 2002 „A Plan for Spam", která hodnotila zprávy podle pravděpodobnosti, že se určitá slova objevila v nevyžádané poště versus skutečné poště. Slovo „Viagra" mělo číslo. Moderní systémy jdou dále s modely na bázi transformeru, které přeměňují text na embeddingy – dlouhé seznamy čísel, které zachycují význam bez uložení významuv podobě slov. Pro klasifikátor vaše e-mail není příběh. Je to bod v prostoru vysoké dimenzionality a otázka je, zda se tento bod nachází blízko shluku označeného „phishing".

Tento rozdíl je důležitý, protože „AI vidí má slova" a „AI převádí má slova na vektor a porovnává ho se vzorem podvodu" nejsou stejná událost týkající se soukromí. Jedne zní jako naslouchání. Druhá je blíže k detektoru kovů: reaguje na signaturu, ne na признание.

Takže skutečná otázka není, zda si model vezme váš text. Samozřejmě že ano – to je práce. Otázka je dvojí a zde byste měli skutečně nasměřovat svou podezřívavost. Zaprvé: uchovávání. Obsah se ukládá a jak dlouho? Politika rozhraní API společnosti OpenAI například uvádí, že nepoužívá obchodní data API k trénování svých modelů a uchovává je v omezeném okně před smazáním. Anthropic zveřejňuje podobné obchodní podmínky. Tyto politiky jsou věcí, kterou stojí za přečtení, ne ujišťování o tom, jak „soukromá" vypadá loga.

Zadruhé: kde se inference provádí. Filtr spuštěný v klasifikaci v rámci vlastních zdí vašeho poskytovatele je jiný profil rizika než text posílaný do modelu třetí strany, o kterém jste nikdy neslyšeli. „Na zařízení nebo v tenantovi" versus „posláno někam jinde" je rozhodovací bod soukromí, který určuje, kdo by teoreticky mohl něco vidět.

To je také důvod, proč se panika „skenuje všechno" obrací. Systémy, které skenují všechno, jsou ty, které vás chrání – klasifikátory blokující falešné faktury a podobné přihlašovací stránky. Nebezpečné skenování je tiché: sledovací pixel v bulletinu, který pinguje server v okamžiku, kdy jej otevřete, a zaznamenává vaši IP adresu a čas, kdy jste jej přečetli. To je opravdový zvědavec a není to spamfiltr.

Obávejte se uchovávání. Obávejte se místa určení. Model čtoucí vaše slova hledající stopy je z toho nejméně důležité.