A spamszűrőd nem olvassa az emailjeidet. Statisztikai jeleket számlál.

A Google naponta körülbelül 15 milliárd nemkívánatos üzenetet blokkolhat, és ezt anélkül teszi, hogy bármi olyasmit használna, amit az olvasáshoz hasonlónak tartanál. Nincs olyan modell, amely ott ülne és halkan szájával mozgatná a fogászod emlékeztetőjének szavait. Ez a mentális kép — egy digitális szöszmötöl, aki behajol az inboxodba és felsz nálad — az a félelem, amelyet a legtöbb ember hordoz magában, és rossz célponton áll.

Íme, mi történik valójában. Amikor a mail eléri a szűrőt, a rendszer nem a szövegeiddel kezdi. Az burókóval kezdi. Ki küldte ezt, és ténylegesen van-e engedélye a küldő szervernek ahhoz, hogy ezt a domaint használja? Ez az SPF, DKIM és DMARC — három ellenőrzés, amely megerősíti, hogy a „billing@yourbank.com" valóban a banked infrastruktúrájából érkezik-e, vagy egy valami pincéjében bérelt szerverből. Egy csaló tökéletesen másolhatja az emblémát, de még így is megbukkan a DKIM-en, és ez az egyetlen kriptográfiai eltérés többet mond a szűrőnek, mint bármely mondat a törzsben.

Aztán jönnek az olcsóbb jelzések. Küldő hírneve: ezt az IP-címet már milliókat azonos üzenetből küldegetett? Linkek elemzése: az „itt kattints" gombra mutató hivatkozás arra az helyre mutat, ahova a látható szöveg nem utal? URL kora, átirányítási láncok, melléklet típusok. A spamítélet nagy része már eldőlt, mielőtt a modell a nyelvezeten továbbgondolkodna.

Amikor a nyelvezet megjelenik, az nem értelmezés — az matematika. Az ősi szűrők Bayes-osztályozókat használtak, azt a megközelítést, amelyet Paul Graham népszerűsített a 2002-es „A Plan for Spam" esszéjében, amely az üzeneteket azon valószínűségre pontozta, hogy bizonyos szavak szemét vagy valódi levelekben fordultak-e elő. A „Viagra" szónak száma volt. A modern rendszerek még továbbmennek transzformátor alapú modellekkel, amelyek szöveget beágyazásokká alakítanak — hosszú számlista, amely értelmet ragad meg anélkül, hogy az értelmet szavakként tárolná. Az osztályozó számára az emailed nem egy történet. Ez egy pont a nagy dimenziós térben, és a kérdés az, hogy ez a pont a „phishing" címkéjű fürt közelében ül-e.

Ez a megkülönböztetés számít, mert az „a mesterséges intelligencia látja a szavaimat" és az „a mesterséges intelligencia szavaimat vektorokká alakítja, és összehasonlítja azokat a csalásmintázattal" nem ugyanaz a magánéleti esemény. Az egyik lehallgatásnak hangzik. A másik közelebb áll egy fémdetektorhoz: egy aláírásra reagál, nem egy vallomásra.

Tehát az igazi kérdés nem az, hogy egy modell megérint-e a szöveget. Természetesen érint — ez a munka. A kérdés kétfajta, és itt kellene valóban a gyanúdat irányítanod. Először: megőrzés. Az tartalom kerül tárolásra, és meddig? Az OpenAI API szabályzata például kimondja, hogy nem használja az üzleti API adatait modelljei betanításához, és korlátozott ideig tartja meg, majd törli azokat. Az Anthropic hasonló kereskedelmi feltételeket tesz közzé. Ezek a szabályzatok azok, amelyeket érdemes elolvasni, nem pedig a tranquilizálások arról, hogy mennyire „privát" egy embléma kinézete.

Másodszor: ahol az inferencia megvalósul. A szűrő, amely a besorolást a szolgáltatód saját falain belül futtatja, más kockázati profil, mint amikor szöveg egy harmadik féltől származó modellhez kerül, amelyet még soha nem hallottál. Az „eszközön vagy bérlőben" kontra „valahova máshova küldött" az az adatvédelmi vidéki választóvonal, amely eldönti, hogy valójában ki láthatna meg bármit is.

Ez is az oka annak, hogy az „összent mindent vizsgál" pánik visszafelé sül el. Az összent mindent vizsgáló rendszerek azok, amelyek megvédenek téged — az osztályozók, amelyek blokkolják a hamis számlát és az utánzat bejelentkezési oldalt. A veszélyes vizsgálat az összehangsúlyozottan csendes fajta: a nyomkövetési képpont egy hírlevélben, amely a szerver felé pingel a pillanatban, amikor megnyitod, naplózva az IP-t és azt az időt, amikor elolvastad. Ez egy valódi kém, és nem a spamszűrő.

Aggódj a megőrzés miatt. Aggódj a cél miatt. A modell, amely szavaidat nyomokért olvassa, az utolsó dolog, amivel foglalkozni kell.