Spam Filteriniz E-postanızı Okumaz. Kanıtları Sayar.

Google günde yaklaşık 15 milyar istenmeyen mesajı engelliyor ve bunu tanıyacağınız hiçbir okuma yöntemiyle yapmıyor. Hiçbir model diş hekiminizin hatırlatmasının sözcüklerini fısıldayarak oturmakta değildir. Bu akılda canlandırılan görüntü — ınboksinizin üzerine eğilmiş dijital bir meraklı, sırlarınızı içine çeken — çoğu insanın taşıdığı korku, ve hedefi yanlıştır.

Gerçekte ne olduğu burada. Posta bir filtreye ulaştığında, sistem yazılı metnin başından başlamaz. Zarftan başlar. Bunu kimin gönderdiği ve gönderen sunucu gerçekten o etki alanını kullanmaya izni mi var? Bu SPF, DKIM ve DMARC — "billing@yourbank.com" adının bankasının altyapısından mı yoksa birinin bodrum katında kiralanmış bir sunucudan mı geldiğini doğrulayan üç kontroldür. Bir dolandırıcı logoyu mükemmel şekilde kopyalayabilir ve yine de DKIM'de başarısız olabilir; bu tek şifreli uyuşmazlık filtreye gövdedeki hiçbir cümleden daha fazla şey anlatır.

Sonra daha ucuz sinyaller gelir. Gönderenin itibarı: bu IP adresi milyonlarca özdeş mesaj göndermekte midir? Link analizi: "buraya tıkla" düğmesi görünür metnin kabul etmediği bir yere işaret ediyor mu? URL yaşı, yönlendirme zincirleri, ek türleri. Spam kararının çoğu model dil hakkında zor düşünmeye başlamadan önce belirlenir.

Dil ortaya çıktığında, bu anlayış değildir — matematiktir. Eski tip filtreler Bayesian sınıflandırıcılarını kullandı; Paul Graham'ın 2002 tarihli "A Plan for Spam" ("Spam İçin Bir Plan") makalesinde popülarlaştırdığı yaklaşım, belirli sözcüklerin spam'e karşı gerçek postalarda görülme olasılığına göre mesajlara puan verdi. "Viagra" sözcüğü bir rakam taşıdı. Modern sistemler, metni embeddinglere çeviren — anlam sözcük olarak depolamadan anlam yakalamanın uzun sayı listeleri — transformer tabanlı modellerle daha ileri gider. Sınıflandırıcıya, e-postanız bir hikaye değildir. Yüksek boyutlu uzayda bir noktadır; soru, bu noktanın "phishing" etiketli kümenin yakınında mı oturduğudur.

Bu ayrım önemlidir; çünkü "yapay zeka sözcüklerimi görmektedir" ve "yapay zeka sözcüklerimi vektöre dönüştürmekte ve bunu bir dolandırıcılık deseniyle karşılaştırmaktadır" aynı gizlilik olayı değildir. Biri casus gibi ses çıkarmaktadır. Diğeri daha çok bir metal dedektöre yakındır: bir itiraf değilse bir imzaya tepki gösterir.

Bu nedenle gerçek soru, bir modelin metninize dokunup dokunmadığı değildir. Tabii ki dokunur — bu iştir. Soru iki yönlüdür ve burası gerçekten şüpheyi yöneltmeniz gerektiği yerdir. Birincisi: tutma. İçerik depolanır mı ve ne kadar süre? Örneğin OpenAI'nin API politikası, işletme API verilerini modellerini eğitmek için kullanmadığını ve silmeden önce sınırlı bir pencere için tuttuğunu belirtir. Anthropic benzer ticari şartlar yayınlar. Bu politikalar, "özel" bir logonun nasıl göründüğü hakkında güvencelerden ziyade okunmaya değer şeylerdir.

İkincisi: çıkarımın nerede gerçekleştiği. Sağlayıcısının kendi duvarlarının içinde çalışan bir filtre, metinlerin daha önce hiç duymadığınız bir üçüncü taraf modeline gönderilmesiyle karşılaştırılmış farklı bir risk profilidedir. "Cihazda veya kiracıda" ile "başka bir yere gönderildi" gizlilik çatalıdır ve teoride kim hiçbir şeyi görebilmektedir.

Bu aynı zamanda "her şeyi tarar" paniğinin neden geriye sıçramasının nedenidir. Her şeyi tarayan sistemler sizi koruyan sistemlerdir — sahte fatura ve benzer login sayfasını engelleyen sınıflandırıcılar. Tehlikeli tarama sessiz türüdür: bir haber bülteinindeki izleme pikseli, onu açtığınız andan itibaren bir sunucuya ışınlanır, IP adresinizi ve bunu okuduğunuz zamanı kaydeder. Bu gerçek bir meraklıdır ve spam filtresi değildir.

Tutma konusunda endişelenin. Hedef konusunda endişelenin. İpuçları için kelimelerinizi okuyan model en azından odur.

@@END@@