Το spam filter σας δεν διαβάζει το email σας. Μετράει τα σημάδια.

Η Google μπλοκάρει σχεδόν 15 δισεκατομμύρια ανεπιθύμητα μηνύματα την ημέρα, και το κάνει χωρίς τίποτα που θα αναγνωρίζατε ως ανάγνωση. Κανένα μοντέλο δεν κάθεται εκεί και προφέρει τις λέξεις της υπενθύμισης του οδοντιάτρου σας. Αυτή η νοερή εικόνα — ένας ψηφιακός κατάσκοπος σκυμμένος στο inbox σας, που απορροφά τα μυστικά σας — είναι το φόβο που κουβαλάει ο περισσότερος κόσμος, και είναι στραμμένο στο λάθος στόχο.

Εδώ είναι αυτό που συμβαίνει πραγματικά. Όταν το mail χτυπήσει ένα φίλτρο, το σύστημα δεν ξεκινά με τη δική σας πρόζα. Ξεκινά με τον φάκελο. Ποιος έστειλε αυτό, και έχει ο διακομιστής αποστολής πράγματι άδεια να χρησιμοποιεί αυτό το domain; Αυτό είναι SPF, DKIM και DMARC — τρεις έλεγχοι που επιβεβαιώνουν αν το "billing@yourbank.com" προήλθε από την υποδομή της τράπεζας σας ή από έναν μεσιτικό διακομιστή σε καθιστικό κάποιου. Ένας scammer μπορεί να αντιγράψει ένα λογότυπο τέλεια και παραμεν να αποτύχει στο DKIM, και αυτή η μοναδική κρυπτογραφική ασυμφωνία λέει στο φίλτρο περισσότερα από κάθε πρόταση στο σώμα του μηνύματος.

Μετά έρχονται τα φθηνότερα σημάδια. Φήμη αποστολέα: έχει αυτή η διεύθυνση IP εκτοξεύσει εκατομμύρια πανομοιότυπα μηνύματα; Ανάλυση συνδέσμων: δείχνει το κουμπί "κάντε κλικ εδώ" κάπου που το ορατό κείμενο δεν παραδέχεται; Ηλικία URL, αλυσίδες ανακατεύθυνσης, τύποι συνημμένων. Το περισσότερο ενός διαφορετικού spam αποφασίζεται πριν το μοντέλο σκεφτεί σκληρά για τη γλώσσα καθόλου.

Όταν η γλώσσα μπαίνει στο παιχνίδι, δεν είναι κατανόηση — είναι μαθηματικά. Τα παλιά φίλτρα χρησιμοποιούσαν Bayesian classifiers, την προσέγγιση που ο Paul Graham έκανε δημοφιλή στο δοκίμιό του το 2002 "A Plan for Spam," το οποίο βαθμολόγησε τα μηνύματα στην πιθανότητα ότι ορισμένες λέξεις εμφανίστηκαν σε junk έναντι πραγματικού mail. Η λέξη "Viagra" κουβαλούσε έναν αριθμό. Τα σύγχρονα συστήματα πηγαίνουν πιο μακριά με transformer-based models που μετατρέπουν το κείμενο σε embeddings — μακρές λίστες αριθμών που καταγράφουν το νόημα χωρίς να αποθηκεύουν το νόημα ως λέξεις. Στον classifier, το email σας δεν είναι μια ιστορία. Είναι ένα σημείο σε χώρο υψηλής διάστασης, και το ερώτημα είναι αν αυτό το σημείο κάθεται κοντά στην ομάδα με ετικέτα "phishing."

Αυτή η διάκριση έχει σημασία, γιατί "η AI βλέπει τις λέξεις μου" και "η AI μετατρέπει τις λέξεις μου σε διάνυσμα και τις συγκρίνει με ένα μοτίβο απάτης" δεν είναι το ίδιο γεγονός απορρήτου. Ένα ακούγεται σαν παρακολούθηση. Το άλλο είναι πιο κοντά σε ένα ανιχνευτή μετάλλων: αντιδρά σε μια υπογραφή, όχι σε μια ομολογία.

Έτσι το πραγματικό ερώτημα δεν είναι αν ένα μοντέλο αγγίζει το κείμενό σας. Φυσικά το κάνει — αυτή είναι η δουλειά. Το ερώτημα είναι δυαδικό, και εδώ είναι όπου θα πρέπει πραγματικά να κατευθύνετε την υποψία σας. Πρώτον: διατήρηση. Αποθηκεύεται το περιεχόμενο, και για πόσο καιρό; Η πολιτική API της OpenAI, για παράδειγμα, δηλώνει ότι δεν χρησιμοποιεί τα δεδομένα API της επιχείρησης για να εκπαιδεύσει τα μοντέλα της και τα διατηρεί για ένα περιορισμένο χρονικό διάστημα πριν τη διαγραφή. Η Anthropic δημοσιεύει παρόμορους εμπορικούς όρους. Αυτές οι πολιτικές είναι το πράγμα που αξίζει να διαβάσετε, όχι διαβεβαιώσεις για το πόσο "ιδιωτικό" ένα λογότυπο φαίνεται.

Δεύτερον: πού γίνεται η推论. Ένα φίλτρο που εκτελεί κατάταξη εντός των δικών του τοίχων του προμηθευτή σας είναι ένα διαφορετικό προφίλ κινδύνου από το κείμενο που αποστέλλεται σε ένα μοντέλο τρίτων που ποτέ δεν έχετε ακούσει. "On-device ή in-tenant" έναντι "αποστέλλεται κάπου αλλού" είναι το διαχωρισμό απορρήτου που αποφασίζει ποιος θα μπορούσε, θεωρητικά, ποτέ να δει κάτι.

Αυτό είναι επίσης γιατί ο "σαρώνει όλα" πανικό αποτυγχάνει. Τα συστήματα που σαρώνουν όλα είναι αυτά που σας προστατεύουν — οι classifiers που μπλοκάρουν το ψεύτικο τιμολόγιο και τη σελίδα ανάμνησης που μοιάζει. Η επικίνδυνη σάρωση είναι η ήσυχη: το pixel παρακολούθησης σε ένα newsletter που pingers ένας διακομιστής τη στιγμή που το ανοίγετε, καταγράφοντας την IP σας και την ώρα που το διαβάσατε. Αυτό είναι ένας γνήσιος κατάσκοπος, και δεν είναι το spam filter.

Ανησυχήστε για τη διατήρηση. Ανησυχήστε για τον προορισμό. Το μοντέλο που διαβάζει τις λέξεις σας για ενδείξεις είναι το λιγότερο από αυτά.