스팸 필터가 이메일을 읽지 않는다. 신호를 센다.

Google은 하루에 거의 15억 개의 원치 않는 메시지를 차단하며, 인식할 수 있는 어떤 읽기 작업 없이 그렇게 한다. 어떤 모델도 당신의 치과의사 알림의 단어를 중얼거리며 앉아 있지 않다. 그 정신적 이미지 — 디지털 곡해꾼이 당신의 받은편지함에 웅크리고 당신의 비밀을 흡수하는 모습 — 이것이 대부분의 사람들이 품은 두려움이며, 그것은 잘못된 대상을 향하고 있다.

실제로 일어나는 일은 다음과 같다. 메일이 필터에 도달하면, 시스템은 당신의 글부터 시작하지 않는다. 봉투부터 시작한다. 누가 보냈고, 보내는 서버가 실제로 그 도메인을 사용할 권한이 있는가? 그것이 SPF, DKIM, DMARC — 세 가지 확인인데, 이들은 "billing@yourbank.com"이 실제로 당신의 은행 인프라에서 왔는지 아니면 누군가의 지하실에 있는 빌린 서버에서 왔는지를 확인한다. 사기꾼은 로고를 완벽하게 복사할 수 있고도 여전히 DKIM에 실패할 수 있으며, 그 단 하나의 암호화 불일치가 본문의 어떤 문장보다도 필터에 훨씬 더 많은 정보를 준다.

그 다음은 더 저렴한 신호들이다. 발신자 평판: 이 IP 주소가 수백만 개의 동일한 메시지를 퍼뜨리고 있는가? 링크 분석: "여기를 클릭하십시오" 버튼이 보이는 텍스트가 인정하지 않는 곳을 가리키고 있는가? URL 나이, 리디렉션 체인, 첨부 파일 유형. 스팸 판정의 대부분은 모델이 언어에 대해 어렵게 생각하기도 전에 결정된다.

언어가 들어올 때, 그것은 이해가 아니다 — 수학이다. 구식 필터는 베이지안 분류기를 사용했는데, Paul Graham이 2002년의 에세이 "A Plan for Spam"에서 대중화한 방식으로, 메시지를 정크 대 실제 메일에서 특정 단어가 나타날 확률로 점수를 매겼다. "Viagra"라는 단어는 숫자를 가지고 있었다. 현대 시스템은 텍스트를 임베딩으로 변환하는 트랜스포머 기반 모델로 더 나아가는데 — 의미를 단어로 저장하지 않으면서 의미를 포착하는 긴 숫자 목록. 분류기에 있어, 당신의 이메일은 이야기가 아니다. 그것은 고차원 공간의 한 점이고, 질문은 그 점이 "피싱"이라고 표시된 클러스터 근처에 앉아 있는지 여부이다.

그 구분이 중요한 이유는, "AI가 내 단어를 본다"와 "AI가 내 단어를 벡터로 변환하고 그것을 사기 패턴과 비교한다"가 동일한 개인정보 보호 사건이 아니기 때문이다. 하나는 도청처럼 들린다. 다른 하나는 금속 탐지기에 더 가깝다: 그것은 자백이 아닌 서명에 반응한다.

그래서 진짜 질문은 모델이 당신의 텍스트를 건드리는지 여부가 아니다. 당연히 한다 — 그것이 일이다. 질문은 두 가지이고, 그것은 실제로 당신의 의심을 향해야 할 곳이다. 첫째: 보존. 콘텐츠가 저장되는가, 그리고 얼마나 오래? 예를 들어, OpenAI의 API 정책에 따르면 비즈니스 API 데이터를 모델 훈련에 사용하지 않으며 삭제 전에 제한된 기간 동안만 보관한다. Anthropic은 유사한 상용 약관을 게시한다. 그 정책들이 읽을 가치가 있는 것이지, 로고가 얼마나 "개인적으로" 보이는지에 대한 안심이 아니다.

둘째: 추론이 일어나는 위치. 자신의 제공자 벽 내부에서 분류를 실행하는 필터는 텍스트가 당신이 들어본 적 없는 제3자 모델로 배송되는 것과는 다른 위험 프로필이다. "온디바이스 또는 테넌트 내부" 대 "다른 곳으로 전송됨"이 누가 이론상으로든 무언가를 볼 수 있는지를 결정하는 개인정보 보호 갈림길이다.

이것이 또한 "모든 것을 스캔한다"는 공황이 역효과를 내는 이유이다. 모든 것을 스캔하는 시스템이 당신을 보호하는 것들이다 — 가짜 인보이스와 판박이 로그인 페이지를 차단하는 분류기. 위험한 스캔은 조용한 종류다: 뉴스레터의 추적 픽셀이 당신이 그것을 열자마자 서버에 ping을 보내면서 당신의 IP와 당신이 읽은 시간을 기록한다. 그것은 진정한 곡해꾼이고, 스팸 필터가 아니다.

보존에 대해 걱정하라. 목적지에 대해 걱정하라. 단서를 찾기 위해 당신의 단어를 읽는 모델은 그중 최소한의 것이다.