فیلتر اسپم شما ایمیل‌های شما را نمی‌خواند. آن‌ها را می‌شمارد.

گوگل تقریباً ۱۵ میلیارد پیام ناخواسته را در روز مسدود می‌کند، و این کار را بدون چیزی انجام می‌دهد که شما آن را به عنوان خواندن تشخیص دهید. هیچ مدلی در آنجا نیست که کلمات یادآوری دندان‌پزشک شما را با لب‌های تکان‌داده تکرار کند. آن تصویر ذهنی — یک جاسوس دیجیتالی خمیده‌شده روی صندوق ورودی شما، جذب کردن اسرار شما — ترسی است که بیشتر مردم احساس می‌کنند، و این به هدف اشتباه هدف گذاشته شده است.

اینجا است آنچه واقعاً اتفاق می‌افتد. وقتی ایمیل به فیلتر می‌رسد، سیستم با نثر شما شروع نمی‌کند. با پاکت نامه شروع می‌کند. چه کسی این را فرستاده است، و آیا سرور فرستنده واقعاً اجازه دارد آن دامنه را استفاده کند؟ این SPF، DKIM، و DMARC است — سه بررسی که تأیید می‌کند آیا «billing@yourbank.com» از زیرساخت بانک شما آمده است یا از سرور اجاره‌ای در اتاق زیرزمین کسی. یک کلاهبردار می‌تواند یک لوگو را کاملاً کپی کند و همچنان DKIM را شکست دهد، و آن مطابقت نشانایی تکی به فیلتر بیشتر از هر جمله‌ای در متن می‌گوید.

سپس سیگنال‌های ارزان‌تر می‌آیند. شهرت فرستنده: آیا این آدرس IP میلیون‌ها پیام یکسان را شلیک کرده است؟ تحلیل پیوند: آیا دکمه «اینجا کلیک کنید» به جایی اشاره می‌کند که متن قابل‌مشاهده آن را پذیرفته نیست؟ سن URL، زنجیره تغییرمسیر، انواع پیوست. بیشتر رای‌دهی اسپم قبل از آن تصمیم می‌گیرد که مدل سخت درباره زبان فکر کند.

وقتی زبان وارد می‌شود، درک نیست — این ریاضی است. فیلترهای قدیمی از طبقه‌بندی‌کنندگان بیز استفاده می‌کردند، رویکردی که Paul Graham در مقالة «A Plan for Spam» سال ۲۰۰۲ خود محبوب کرد، که پیام‌ها را بر اساس احتمال نمایش کلمات خاص در جنک در مقابل ایمیل واقعی امتیاز می‌دهد. کلمة «Viagra» یک عدد را حمل می‌کرد. سیستم‌های مدرن با مدل‌های مبتنی بر transformer که متن را به embedding تبدیل می‌کنند — فهرست‌های طولانی اعداد که معنی را بدون ذخیره کردن معنی به عنوان کلمات ضبط می‌کنند — جلوتر می‌روند. برای طبقه‌بندی‌کننده، ایمیل شما داستانی نیست. این نقطه‌ای در فضای ابعادی بالا است، و سؤال این است که آیا آن نقطه نزدیک خوشه‌ای با برچسب «فیشینگ» نشسته است.

این تمایز اهمیت دارد، زیرا «AI کلمات من را می‌بیند» و «AI کلمات من را به بردار تبدیل می‌کند و آن را به الگوی تقلب مقایسه می‌کند» یکسان نیستند — حادثة حفاظت از حریم خصوصی نیستند. یکی مانند دستری به نظر می‌رسد. دیگری نزدیک‌تر به یک آشکارساز فلز است: به یک امضا واکنش نشان می‌دهد، نه اعتراف.

بنابراین سؤال واقعی این نیست که آیا یک مدل متن شما را لمس می‌کند. البته که می‌کند — این کار است. سؤال دو‌لخت است، و اینجا است که باید شک شما را واقعاً هدایت کنید. اول: نگهداری. آیا محتوا ذخیره می‌شود، و برای چقدر مدت؟ سیاست OpenAI API، به عنوان مثال، بیان می‌کند که از داده‌های API کسب‌وکار خود برای آموزش مدل‌های خود استفاده نمی‌کند و قبل از حذف برای یک پنجره محدود نگهداری می‌کند. Anthropic شرایط تجاری مشابهی را منتشر می‌کند. این سیاست‌ها چیزی هستند که قابل خواندن است، نه اطمینان‌دهندگی درباره اینکه یک لوگو چگونه «خصوصی» به نظر می‌رسد.

دوم: جایی که استنتاج اتفاق می‌افتد. فیلتری که طبقه‌بندی را درون دیوار‌های خود ارائه‌دهندة شما اجرا می‌کند نمایه خطری متفاوت از متنی است که به مدل شخص ثالث فرستاده می‌شود که هرگز نشنیده‌اید. «روی دستگاه یا درون مستاجر» در مقابل «به جای دیگری فرستاده شده» انشعاب حفاظت از حریم خصوصی است که تصمیم می‌گیرد چه کسی می‌توانست، در نظریه، هرگز چیزی را ببیند.

این همچنین دلیلی است که وحشت «آن همه چیز را اسکن می‌کند» پس می‌زند. سیستم‌های اسکن کننده همه چیز سیستم‌هایی هستند که از شما محافظت می‌کنند — طبقه‌بندی‌کنندگانی که فاکتور جعلی و صفحة ورود مشابه را مسدود می‌کنند. اسکن خطرناک اسکن آرام است: پیکسل ردیابی در خبرنامه‌ای که در لحظه باز کردن آن سرور را ping می‌کند، ثبت IP و زمانی که آن را خواندید. این یک جاسوس واقعی است، و این فیلتر اسپم نیست.

نگران نگهداری باشید. نگران مقصد باشید. مدلی که کلمات شما را برای نشانه‌ها می‌خواند کم‌ترین نگرانی است.