Ваш спам-фільтр не читає вашу пошту. Він рахує ознаки.

Google блокує близько 15 мільярдів небажаних повідомлень на день, і робить це без всього того, що ви могли б розпізнати як читання. Жоден модель не сидить там, промовляючи слова нагадування від вашого стоматолога. Це психічне уявлення — цифровий шпигун, зігнутий над вашою поштовою скринею, поглинаючий ваші таємниці — це страх, який носять більшість людей, і він спрямований на неправильну ціль.

Ось що насправді відбувається. Коли пошта потрапляє у фільтр, система не починає з вашого тексту. Вона починає з конверта. Хто це надіслав, і чи дійсно сервер відправника має дозвіл на використання цього домену? Це SPF, DKIM та DMARC — три перевірки, які підтверджують, що «billing@yourbank.com» надійшла з інфраструктури вашого банку або з найманого сервера в чийомусь підвалі. Шахрай може ідеально скопіювати логотип і все одно не пройти DKIM, і це одна криптографічна невідповідність говорить фільтру більше, ніж будь-яке речення в тілі листа.

Потім йдуть дешевші сигнали. Репутація відправника: чи блокував цей IP-адреса мільйони однакових повідомлень? Аналіз посилань: чи кнопка «натисніть тут» вказує туди, куди видимий текст не вказує? Вік URL-адреси, ланцюги перенаправлень, типи вкладень. Більшість вердикту про спам виносится до того, як модель серйозно думає про мову взагалі.

Коли мова все ж входить, це не розуміння — це математика. Старомодні фільтри використовували класифікатори Байєса, підхід, який Paul Graham популяризував у своєму есе 2002 року «A Plan for Spam», який оцінював повідомлення за ймовірністю того, що певні слова з'являються у спамі порівняно з реальною поштою. Слово «Viagra» мало число. Сучасні системи йдуть далі з трансформаторними моделями, які перетворюють текст на вкладення — довгі списки чисел, які захоплюють значення без збереження значення як слова. Для класифікатора ваша електронна пошта — це не розповідь. Це точка в просторі високої розмірності, а питання полягає в тому, чи ця точка лежить поблизу кластера з позначкою «фішинг».

Ця розрізнення важлива, тому що «штучний інтелект бачить мої слова» і «штучний інтелект перетворює мої слова на вектор і порівнює його з паттерном шахрайства» — це не одна й та ж подія приватності. Одна звучить як підслуховування. Інша ближча до металодетектора: вона реагує на сигнатуру, а не на визнання.

Тому справжнє питання не в тому, торкається ли модель вашого тексту. Звичайно, торкається — це робота. Питання двоїсте, і саме на нього вам варто звернути свою підозру. По-перше: збереження. Чи зберігається вміст і як довго? Наприклад, політика API OpenAI стверджує, що вона не використовує бізнес-дані API для навчання своїх моделей і зберігає їх обмежено часу перед видаленням. Anthropic публікує аналогічні комерційні умови. Ці політики — це те, що варто читати, а не запевнення про те, наскільки «приватним» виглядає логотип.

По-друге: де відбувається висновок. Фільтр, який запускає класифікацію всередині власних стін вашого провайдера, має інший профіль ризику, ніж текст, який відправляється до третьої сторони, моделі, яку ви ніколи не чули. «На пристрої або всередині тенанта» порівняно з «відправлено кудись іще» — це роздоріжжя приватності, яке визначає, хто теоретично міг би коли-небудь щось побачити.

Це також причина того, чому паніка «вона сканує все» дає зворотний ефект. Системи, які сканують все, — це ті, що вас захищають — класифікатори, які блокують підроблену накладну та сторінку входу, що виглядає як оригіналаль. Небезпечне сканування — це тихе: піксель стеження в інформаційному бюлетені, який пінгує сервер у момент, коли ви його відкриваєте, записуючи вашу IP-адресу та час, коли ви його прочитали. Це справжній шпигун, і це не спам-фільтр.

Хвилюйтеся про збереження. Хвилюйтеся про пункт призначення. Модель, яка читає ваші слова в пошуках підказок, — це найменше з проблем.