מסנן הספאם שלך לא קורא את הדוא"ל שלך. הוא סופר את הסימנים.

גוגל חוסמת כמעט 15 מיליארד הודעות לא רצויות ביום, והיא עושה זאת ללא כל דבר שהיית מזהה כקריאה. אף מודל לא יושב שם ומבטא את המילים של תזכורת רופא השיניים שלך. התמונה הנפשית הזו — מרגל דיגיטלי כפוף על תיבת הדוא"ל שלך, ספג את הסודות שלך — היא הפחד שרוב האנשים נושאים, והוא מכוון למטרה הלא נכונה.

הנה מה שבעצם קורה. כשדוא"ל מגיע לסנן, המערכת לא מתחילה בפרוז שלך. היא מתחילה במעטפה. מי שלח זאת, והאם לשרת השולח יש בעצם הרשאה להשתמש בתחום הזה? זה SPF, DKIM, ו-DMARC — שלוש בדיקות שמאשרות האם "billing@yourbank.com" הגיע מהתשתית הבנקאית שלך או משרת שכור במרתף של מישהו. רמאי יכול להעתיק לוגו בצורה מושלמת ועדיין להיכשל ב-DKIM, והחוסר התאמה הקריפטוגרפי היחיד הזה אומר לסנן יותר מאשר כל משפט בגוף כל הזמן.

אחר כך באים הסימנים הזולים יותר. מוניטין השולח: האם כתובת IP זו שולחת מיליונים של הודעות זהות? ניתוח קישורים: האם כפתור "לחץ כאן" מצביע למקום שהטקסט הגלוי לא מודה בו? גיל כתובת, שרשראות הפניות, סוגי קבצים מצורפים. רוב פסק דין ספאם מוסדר טרם המודל חושב קשה על שפה בכלל.

כאשר השפה כן מתחילה, זה לא הבנה — זה מתמטיקה. מסננים ישנים השתמשו במסווגי בייז, הגישה שPaul Graham הפך לפופולרית בחיבור שלו משנת 2002 "A Plan for Spam", שדירג הודעות על ההסתברות שמילים מסוימות הופיעו בזבל לעומת דוא"ל אמיתי. המילה "Viagra" נשאה מספר. מערכות מודרניות הולכות הלאה עם מודלים מבוססי transformer שהופכים טקסט לתעניות — רשימות ארוכות של מספרים שמשימות משמעות ללא אחסון המשמעות כמילים. לסווג, הדוא"ל שלך לא סיפור. זו נקודה במרחב בעל מימדים גבוהים, והשאלה היא האם הנקודה הזו יושבת קרוב לאשכול שכותרתו "דיוג".

ההבחנה הזו חשובה, כי "ה-AI רואה את המילים שלי" ו"ה-AI הופך את המילים שלי לווקטור ומשווה אותו לתבנית הונאה" אינם אותו אירוע פרטיות. אחד נשמע כמו ציתות. השני קרוב יותר לגלאי מתכות: הוא מגיב לחתימה, לא להודאה.

אז השאלה האמיתית היא לא האם מודל נוגע בטקסט שלך. כמובן שהוא עושה זאת — זו העבודה. השאלה היא דו-חלקית, וזה המקום שבו אתה באמת צריך להניח את החשד שלך. ראשית: שימור. האם התוכן מאוחסן, וכמה זמן? מדיניות API של OpenAI, למשל, קובעת שהוא לא משתמש בנתוני API עסקיים לאימון המודלים שלו ושומר עליו לחלון מוגבל לפני מחיקה. Anthropic מפרסמת תנאים מסחריים דומים. מדיניויות אלה הן הדבר שכדאי לקרוא, לא הביטחונות לגבי כמה "פרטי" לוגו נראה.

שנית: היכן ההסקה קורית. סנן שמפעיל סיווג בתוך החומות של ספק שלך הוא פרופיל סיכון שונה מאשר טקסט המשלח למודל צד שלישי שלא שמעת עליו מעולם. "בהתקן או בטנט" לעומת "נשלח למקום אחר" הוא המפצל פרטיות שמחליט מי יכול, בתיאוריה, אי פעם לראות משהו.

זה גם למה הפניקה "זה סורק הכל" משפיעה לאחור. המערכות שסורקות הכל הן אלה שמגנות עליך — המסווגים החוסמים את החשבונית המזויפת ודף ההתחברות הדומה. הסריקה המסוכנת היא הסוג השקט: פיקסל מעקב בעלון חדשות שדופק שרת ברגע שאתה פותח אותו, רישום ה-IP שלך והזמן שקראת אותו. זה מרגל אמיתי, וזה לא מסנן הספאם.

דאוג לשימור. דאוג ליעד. המודל הקורא את המילים שלך לחיפוש רמזים הוא הפחות מהבעיה.