당신의 상사가 이메일을 보낸 게 아닙니다. 그의 최근 세 개 답장으로 학습된 AI가 보낸 겁니다.

위조 상사 이메일의 옛날 특징은 문법 오류와 어색한 인사였습니다. 그 특징은 이제 사라졌습니다. 생성형 도구는 이제 스크래핑된 이메일 스레드를 흡수해 동료의 정확한 어조, 구두점, 서명까지 흉내 낼 수 있으므로, 사업 이메일 손상이 계속 기업에 손실을 입히고 있습니다 — FBI의 인터넷 범죄 신고 센터는 2023년 한 해 동안 보고된 BEC 손실이 $2.9 billion이었다고 기록했습니다. 남은 유일한 신뢰할 수 있는 방어책은 행동하기 전에 다른 채널로 대화를 옮기는 것입니다.

상사처럼 들리는 이메일을 어떻게 신뢰할 수 없을까요?

'그 사람 같다'는 것이 이제 가장 쉽게 위조되는 부분이기 때문입니다. BEC는 예전엔 해킹되었거나 비슷한 주소에 어설픈 텍스트를 짝짓는 방식에 의존했습니다. 어색한 문구가 바로 그 증거였습니다. 누군가의 실제 답장 세 개를 대규모 언어 모델에 입력하면 그 사람의 리듬을 그대로 따라 할 수 있습니다 — "Hey"로 시작하는 방식, 서두를 때 구두점을 건너뛰는 방식, 첫 글자 하나만으로 서명하는 방식 말입니다. 공격자는 그런 답장들을 손상된 사서함, 전달된 스레드, 또는 회사 밖으로 유출된 전사-전원 답장 체인에서 얻습니다.

Verizon의 2024년 데이터 침해 조사 보고서는 대략 68%의 침해에 인적 요소가 개입되어 있으며, 사회공학과 사기 위장이 지배적인 패턴이라고 밝혔습니다. 문체는 더 이상 증거가 아닙니다. CFO처럼 쓰는 사람은 당신의 CFO 발신함의 몇 분짜리 데이터로 학습된 모델일 수 있습니다.

이런 개선된 위조 이메일은 실제로 어떤 모습일까요?

이미 진행 중인 실제 대화에 딱 맞는, 짧고 타당하며 약간 긴급해 보이는 요청처럼 보입니다. 전형적인 수법은 벤더 결제에 관한 기존 스레드에 끼워 넣은 답장으로, 새로운 송금 지시와 "은행이 예전 계정을 차단했으니 이것을 사용해"라는 한 줄이 들어 있습니다. 오타도 없고, 프로젝트 이름도 맞고, 상사의 실제 말투 버릇도 있습니다.

기술적인 걸린 점은 표시 이름은 완벽해 보이지만 발신 도메인은 한 글자 차이가 날 수 있다는 것입니다 — @company.com 대신 @company-invoices.com 같은 식으로요 — 또는 회신-대상이 조용히 다른 곳을 가리킬 수 있습니다. 인증이 도움이 됩니다. SPF, DKIM, 또는 DMARC 정렬이 실패한 메시지는 아무리 인간적으로 들려도 의심의 여지가 있습니다. 사기 플래깅이 있는 AI 이메일을 포함한 AI 메일 도구는 자동으로 그런 헤더를 확인합니다. 휴대전화로 슥 훑어보는 사람은 절대 안 할 일이니까요.

그럼 겉으로는 신뢰할 수 없는 요청을 실제로 어떻게 확인할까요?

채널을 바꾸고 이메일이 제시한 것이 아니라 이미 알고 있는 채널을 통해 확인하세요. 이메일이 돈이나 자격 증명을 요청하면, 서명의 번호가 아니라 연락처나 회사 디렉토리의 번호로 그 사람에게 전화하세요. 그 사람의 책상에 가세요. 내부 채팅 도구로 메시지를 보내세요. 전체 사기는 이메일 안에 있는 상태를 유지하는 데 달려 있으며, 공격자는 양쪽을 모두 조종합니다.

판단이 아니라 규칙으로 만드세요. 결제 변경, 송금, 새로운 은행 세부 사항은 모두 이차 채널 확인이 필요합니다 — 기간 없음 — IC3는 BEC에 대해 정확히 이런 음성 검증을 지속적으로 권장합니다. 규칙은 바쁜 화요일 오후를 견디지만 본능은 견디지 못합니다. 설득력 있는 문체를 어떤 것의 증거로 취급하는 것을 그만두세요. 스크래핑된 답장으로 학습된 모델이 위조할 수 없는 유일한 것은 당신의 상사가 전화를 받고 "난 그런 이메일을 보낸 적 없다"고 말하는 것입니다.