ตัวกรองสแปมของคุณไม่ได้อ่านอีเมลของคุณ มันนับสัญญาณต่างๆ

Google ปิดกั้นข้อความที่ไม่ต้องการเกือบ 15 พันล้านข้อความต่อวัน และทำเช่นนี้โดยไม่ใช้อะไรที่คุณรู้จักเป็นการอ่าน โมเดลไม่ได้นั่งอ่านคำพูดของการเตือนความจำจากทันตแพทย์ของคุณ รูปภาพทางจิตใจนั้น — สายลับดิจิทัลที่นั่งอ่านกล่องขาเข้าของคุณและดูดซึมความลับของคุณ — คือความกลัวที่คนส่วนใหญ่มี และมันปล่อยปืนไปยังเป้าที่ผิด

นี่คือสิ่งที่เกิดขึ้นจริง เมื่ออีเมลไปถึงตัวกรอง ระบบไม่ได้เริ่มต้นจากข้อความของคุณ มันเริ่มต้นจากซองจดหมาย ใครส่งสิ่งนี้มา และเซิร์ฟเวอร์ที่ส่งนั้นมีสิทธิ์ที่จะใช้โดเมนนั้นจริงหรือ นั่นคือ SPF, DKIM, และ DMARC — การตรวจสอบสามอย่างที่ยืนยันว่า "billing@yourbank.com" มาจากโครงสร้างพื้นฐานของธนาคารของคุณหรือมาจากเซิร์ฟเวอร์ที่เช่ามาในห้องใครสักคน ผู้หลอกลวงสามารถคัดลอกโลโกได้อย่างสมบูรณ์แบบและยังคงล้มเหลว DKIM และความไม่ตรงกันด้านการเข้ารหัสลับครั้งเดียวนั้นบอกตัวกรองมากกว่าประโยคใดๆ ในเนื้อหาที่เคยทำ

จากนั้นมาถึงสัญญาณที่ประหยัดกว่า 声誉ของผู้ส่ง: ที่อยู่ IP นี้ได้ส่งข้อความที่เหมือนกันหลายล้านข้อความหรือไม่ การวิเคราะห์ลิงก์: ปุ่ม "คลิกที่นี่" ชี้ไปยังที่ที่ข้อความที่มองเห็นไม่ยอมรับหรือไม่ อายุของ URL, ห่วงโซ่การเปลี่ยนเส้นทาง, ประเภทไฟล์แนบ ข้อความส่วนใหญ่ของการตัดสินใจเกี่ยวกับการเป็นสแปมได้รับการแก้ไขก่อนที่โมเดลจะคิดอย่างหนักเกี่ยวกับภาษาเลย

เมื่อภาษาเข้ามาเกี่ยว มันไม่ใช่ความเข้าใจ — มันคือคณิตศาสตร์ ตัวกรองแบบเก่าใช้ Bayesian classifiers ซึ่งเป็นวิธีการที่ Paul Graham ทำให้เป็นที่นิยมในบทความ "A Plan for Spam" ของเขาในปี 2002 ซึ่งให้คะแนนข้อความตามความน่าจะเป็นที่คำบางคำปรากฏในจดหมายขยะเมื่อเทียบกับจดหมายจริง คำว่า "Viagra" มีค่าตัวเลข ระบบสมัยใหม่ไปไกลกว่านั้นด้วยโมเดลที่ใช้ transformer ซึ่งเปลี่ยนข้อความเป็น embeddings — รายการตัวเลขยาวที่จับภาพความหมายโดยไม่เก็บความหมายเป็นคำ สำหรับตัวจำแนก อีเมลของคุณไม่ใช่เรื่องราว มันคือจุดในพื้นที่มิติสูง และคำถามคือว่าจุดนั้นนั่งอยู่ใกล้กับกลุ่มที่มีป้ายว่า "phishing" หรือไม่

ความแตกต่างนั้นมีความสำคัญ เพราะ "AI เห็นคำของฉัน" และ "AI เปลี่ยนคำของฉันเป็นเวกเตอร์และเปรียบเทียบกับรูปแบบการหลอกลวง" ไม่ใช่เหตุการณ์ด้านความเป็นส่วนตัวแบบเดียวกัน อันหนึ่งฟังดูเหมือนการดักฟัง อีกอันหนึ่งใกล้เคียงกับเครื่องตรวจจับโลหะ: มันตอบสนองต่อลายเซ็น ไม่ใช่ต่อการสารภาพ

ดังนั้นคำถามที่แท้จริงคือไม่ว่าโมเดลจะสัมผัสข้อความของคุณหรือไม่ แน่นอนว่ามันทำ — นั่นคือหน้าที่ คำถามคือสองประการ และมันเป็นที่ที่คุณควรชี้ความสงสัยของคุณจริงๆ ก่อนอื่น: การเก็บรักษา เนื้อหาได้รับการเก็บไว้หรือไม่ และนานแค่ไหน นโยบาย API ของ OpenAI ตัวอย่างเช่น ระบุว่าไม่ใช้ข้อมูล API ทางธุรกิจเพื่อฝึกฝนโมเดลของมันและเก็บไว้เป็นเวลาจำกัดก่อนการลบ Anthropic ตีพิมพ์ข้อกำหนดเชิงพาณิชย์ที่คล้ายกัน นโยบายเหล่านั้นคือสิ่งที่คุ้มค่าในการอ่าน ไม่ใช่การให้ความมั่นใจเกี่ยวกับว่าโลโกมีลักษณะ "ส่วนตัว" เพียงใด

ประการที่สอง: ที่ที่การอนุมานเกิดขึ้น ตัวกรองที่ทำการจำแนกประเภทภายในกำแพงของผู้ให้บริการของคุณเองเป็นโปรไฟล์ความเสี่ยงที่แตกต่างจากข้อความที่ส่งไปยังโมเดลของบุคคลที่สาม ซึ่งคุณไม่เคยได้ยินมาก่อน "On-device หรือ in-tenant" เทียบกับ "ส่งไปยังที่อื่น" คือส้อมด้านความเป็นส่วนตัวที่ตัดสินใจว่าใครสามารถในทางทฤษฎีมองเห็นสิ่งใดก็ได้

นี่คือเหตุผลที่ความตื่นกลัว "มันสแกนทุกอย่าง" ล้มเหลวไป ระบบที่สแกนทุกอย่างคือระบบที่ป้องกันคุณ — ตัวจำแนกที่ปิดกั้นใบแจ้งหนี้ปลอมและหน้าเข้าสู่ระบบที่ดูเหมือน ความเสี่ยงจากการสแกนคือประเภทที่เงียบ: พิกเซลติดตามในจดหมายข่าวที่ส่ง ping ไปยังเซิร์ฟเวอร์ในทันทีที่คุณเปิดมัน บันทึก IP ของคุณและเวลาที่คุณอ่านมัน นั่นคือสายลับจริง และมันไม่ใช่ตัวกรองสแปม

กังวลเกี่ยวกับการเก็บรักษา กังวลเกี่ยวกับปลายทาง โมเดลที่อ่านคำของคุณเพื่อหาเบาะแสคือน้อยที่สุด

@@END@@