スパムフィルターはあなたのメールを読んでいない。パターンを数えているだけだ。

Googleは1日にほぼ15億件の不要メッセージをブロックしており、それはあなたが「読む」と認識するようなものを何も使わずに行っている。モデルが座ってあなたの歯科医のリマインダーのメッセージを音読しているわけではない。その心像——あなたのインボックスに身を乗り出して秘密を吸収する、デジタルな詮索者——は、ほとんどの人が持っている恐れであり、それは間違った的に向けられている。

実際に起こっていることはこうだ。メールがフィルターに到達すると、システムはあなたのテキストから始まるわけではない。エンベロープから始まる。誰が送ったのか、そして送信サーバーは本当にそのドメインを使う許可を持っているのか？それがSPF、DKIM、DMARCだ。3つのチェックが「billing@yourbank.com」があなたの銀行のインフラからきたのか、誰かの地下室にある借りたサーバーからきたのかを確認する。詐欺師はロゴを完璧にコピーすることができても、DKIMに失敗する可能性があり、その単一の暗号学的な不一致は、本文のどの文章よりもフィルターに多くのことを伝える。

その次はより安価なシグナルが来る。送信者の評判：このIPアドレスは何百万もの同一メッセージをばらまいてきたのか？リンク分析：「ここをクリック」ボタンが、表示されるテキストが認めていない場所を指しているのか？URLの年齢、リダイレクトチェーン、添付ファイルの種類。スパム評決の大部分は、モデルが言語について真剣に考える前に決まる。

言語が入ってくるとき、それは理解ではなく、数学だ。昔ながらのフィルターはベイズ分類器を使っていた。Paul Grahamが彼の2002年のエッセイ「A Plan for Spam」で普及させたアプローチだ。これは、特定の単語がジャンクメールと本物のメール中に現れる確率に基づいてメッセージをスコア化した。「Viagra」という単語は数字を持っていた。最新システムはトランスフォーマーベースのモデルでさらに進み、テキストを埋め込みに変換する。単語として意味を保存せずに意味をキャプチャする長いリストの数字だ。分類器にとって、あなたのメールは物語ではない。それは高次元空間の点であり、その点が「フィッシング」というラベルの付いたクラスタの近くに座るかどうかが問題だ。

その区別が重要なのは、「AIは私の言葉を見ている」ことと「AIは私の言葉をベクトルに変換して、それを詐欺パターンと比較している」ことが同じプライバシー出来事ではないからだ。ひとつは盗聴に聞こえる。もう一つは金属探知機に近い。それは告白ではなく、シグネチャに反応する。

だから本当の問題は、モデルがあなたのテキストに触れるかどうかではない。もちろんそうだ。それが仕事だ。問題は二つあり、あなたが本当に疑いを向けるべき場所だ。第一に：保持。コンテンツが保存され、どのくらいの期間保存されるのか？たとえば、OpenAIのAPIポリシーは、ビジネスAPIデータをモデルの訓練に使用しないこと、および削除前の限定されたウィンドウ期間保持することを述べている。Anthropicは同様の商業条件を公開している。それらのポリシーは、「プライベート」なロゴがどのように見えるかについての保証ではなく、読む価値のあるものだ。

第二に：推論がどこで起こるか。プロバイダー自身の壁の内側で分類を実行しているフィルターは、テキストが聞いたこともない第三者モデルに送られているのとは異なるリスク・プロファイルだ。「オンデバイスまたはインテナント内」対「他の場所に送られる」は、理論上、誰が何かを見ることができるかを決めるプライバシーの分岐点だ。

これは「すべてをスキャンしている」というパニックが逆効果になる理由でもある。すべてをスキャンしているシステムは、あなたを保護しているシステムだ。偽の請求書とそっくりなログインページをブロックしている分類器。危険なスキャンは静かな種類だ。ニュースレター内のトラッキングピクセルが、それを開いた瞬間にサーバーにping を送信し、あなたのIPと読んだ時刻をログに記録する。それは本物の詮索者であり、スパムフィルターではない。

保持について心配しろ。送信先について心配しろ。手がかりのためにあなたの言葉を読むモデルは、その中で最も小さい問題だ。