आपका स्पैम फ़िल्टर आपका ईमेल नहीं पढ़ता। यह संकेतों की गिनती करता है।

Google प्रतिदिन लगभग 15 बिलियन अनचाहे संदेशों को ब्लॉक करता है, और यह ऐसा कुछ भी किए बिना करता है जिसे आप पढ़ने जैसा मानेंगे। कोई मॉडल आपके दंत चिकित्सक के रिमाइंडर के शब्दों को बड़बड़ाते हुए नहीं बैठा है। वह मानसिक चित्र — एक डिजिटल जासूस जो आपके इनबॉक्स पर झुका हुआ है, आपके रहस्यों को अवशोषित कर रहा है — यह वह डर है जो अधिकांश लोग रखते हैं, और यह गलत लक्ष्य की ओर निर्देशित है।

यहाँ वास्तव में क्या हो रहा है। जब मेल एक फ़िल्टर से टकराता है, तो सिस्टम आपके गद्य के साथ शुरू नहीं होता। यह लिफाफे के साथ शुरू होता है। इसे किसने भेजा, और भेजने वाला सर्वर वास्तव में उस डोमेन का उपयोग करने की अनुमति रखता है? वह SPF, DKIM, और DMARC है — तीन जांचें जो पुष्टि करती हैं कि "billing@yourbank.com" आपके बैंक के बुनियादी ढांचे से आया है या किसी के तहखाने में किराए के सर्वर से। एक स्कैमर एक लोगो को बिल्कुल कॉपी कर सकता है और फिर भी DKIM विफल हो सकता है, और यह एकल क्रिप्टोग्राफिक बेमेल फ़िल्टर को शरीर में किसी भी वाक्य की तुलना में अधिक बताता है।

फिर सस्ते संकेत आते हैं। प्रेषक की प्रतिष्ठा: क्या यह IP पता लाखों समान संदेशों को भेज रहा है? लिंक विश्लेषण: क्या "यहाँ क्लिक करें" बटन ऐसी जगह इशारा करता है जहाँ दृश्यमान पाठ स्वीकार नहीं करता है? URL की उम्र, रीडायरेक्ट चेन, अटैचमेंट के प्रकार। अधिकांश स्पैम निर्णय तब तक सुलझ जाते हैं जब तक मॉडल भाषा के बारे में कठोरता से सोचता है।

जब भाषा दाखिल होती है, तो यह समझ नहीं है — यह गणित है। पुरानी शैली के फ़िल्टर Bayesian classifiers का उपयोग करते थे, वह दृष्टिकोण जिसे Paul Graham ने अपने 2002 के निबंध "A Plan for Spam" में लोकप्रिय बनाया, जो संदेशों को इस संभावना पर स्कोर करते थे कि कुछ शब्द कचरा बनाम वास्तविक मेल में दिखाई दिए। शब्द "Viagra" एक संख्या ले गया। आधुनिक सिस्टम transformer-based models के साथ आगे जाते हैं जो पाठ को embeddings में बदलते हैं — संख्याओं की लंबी सूचियाँ जो अर्थ को शब्दों के रूप में संग्रहीत किए बिना अर्थ को पकड़ती हैं। वर्गीकरणकर्ता के लिए, आपका ईमेल एक कहानी नहीं है। यह उच्च-आयामी स्थान में एक बिंदु है, और सवाल यह है कि क्या वह बिंदु "phishing" लेबल वाले क्लस्टर के पास बैठता है।

वह अंतर महत्वपूर्ण है, क्योंकि "AI मेरे शब्दों को देखता है" और "AI मेरे शब्दों को एक वेक्टर में परिवर्तित करता है और इसकी तुलना एक धोखाधड़ी पैटर्न से करता है" एक ही गोपनीयता घटना नहीं हैं। एक जासूसी की तरह लगता है। दूसरा एक धातु डिटेक्टर के करीब है: यह एक हस्ताक्षर पर प्रतिक्रिया करता है, एक स्वीकारोक्ति नहीं।

तो वास्तविक सवाल यह नहीं है कि क्या एक मॉडल आपके पाठ को स्पर्श करता है। निश्चित रूप से यह करता है — यह नौकरी है। सवाल दो-गुना है, और यह वहाँ है जहाँ आपको वास्तव में अपने संदेह को निर्देशित करना चाहिए। पहला: प्रतिधारण। क्या सामग्री संग्रहीत की जाती है, और कितने समय के लिए? OpenAI की API नीति, उदाहरण के लिए, बताती है कि यह अपने मॉडल को प्रशिक्षित करने के लिए business API डेटा का उपयोग नहीं करता है और इसे deletion से पहले एक सीमित विंडो के लिए रखता है। Anthropic समान commercial terms प्रकाशित करता है। वे नीतियाँ वह चीज हैं जो पढ़ने योग्य हैं, न कि इस बारे में आश्वासन कि एक लोगो कितना "निजी" दिखता है।

दूसरा: जहाँ अनुमान होता है। एक फ़िल्टर जो आपके प्रदाता की अपनी दीवारों के अंदर classification चलाता है, वह एक अलग जोखिम प्रोफ़ाइल है अगर पाठ एक third-party model को भेजा जा रहा है जिसे आपने कभी सुना नहीं है। "On-device या in-tenant" बनाम "कहीं और भेजा गया" गोपनीयता का कांटा है जो तय करता है कि कौन, सिद्धांत में, कभी कुछ भी देख सकता है।

यह भी है कि क्यों "यह सब कुछ स्कैन करता है" panic backfires। सब कुछ स्कैन करने वाले सिस्टम वह हैं जो आपकी सुरक्षा कर रहे हैं — classifiers जो नकली चालान और lookalike लॉगिन पृष्ठ को ब्लॉक कर रहे हैं। खतरनाक स्कैनिंग शांत तरह की है: एक न्यूजलेटर में ट्रैकिंग पिक्सेल जो इसे खोलने के समय सर्वर को पिंग करता है, आपके IP और समय को लॉग करता है जब आप इसे पढ़ते हैं। यह एक वास्तविक जासूस है, और यह स्पैम फ़िल्टर नहीं है।

प्रतिधारण के बारे में चिंता करें। गंतव्य के बारे में चिंता करें। मॉडल संकेत के लिए आपके शब्दों को पढ़ता है यह इसका सबसे कम हिस्सा है।

@@END@@