Apate의 사기 대응 AI, 통화 시간보다 증거의 가치

사기범을 붙잡는 AI가 정보를 판매한다

호주 스타트업 Apate는 AI를 사기 전화의 피해자처럼 행동하게 만들어 정보를 수집한다. 10월 14일 TechCrunch 보도에 따르면 에이전트는 전화뿐 아니라 메시지, 이메일과 웹 대화에서도 활동한다. 서로 다른 인물 설정과 언어로 대화를 이어가며 계좌, 가상자산 지갑, 전화번호, 악성 사이트 등 대응에 필요한 단서를 얻는다.

회사 공식 제품 소개도 통화 방해 자체보다 정보 추출과 분석, 고객사의 대응 연결을 강조한다. 은행과 통신사가 구매하는 것은 재미있는 대화 녹음이 아니라 아직 피해 신고에 등장하지 않은 공격 인프라의 신호다. 이 구조가 성립하려면 수집 결과가 새로운 정보이고, 정확하며, 차단할 수 있을 만큼 빨리 도착해야 한다.

250만 건과 17년은 무엇을 설명하나

Apate는 2024년 설립됐으며 맥쿼리대 연구에서 출발했다고 보도는 전한다. 회사 측은 누적 250만 건의 대화로 사기범의 시간을 총 17년만큼 소모시켰다고 주장한다. 이는 여러 대화의 시간을 더한 누적치이지 한 조직을 17년 동안 멈췄다는 의미가 아니다. 대화 수와 시간을 피해 방지 금액으로 바로 환산할 수도 없다.

보도에서 공동창업자는 고객 TPG가 약 59만 건의 통화를 연결했고 Commonwealth Bank의 공개 보고 사기 손실이 76% 줄었다고 설명한다. 이 감소를 Apate 하나의 인과적 효과로 확정해서는 안 된다. 고객사의 다른 차단 정책, 사기 유형 변화, 측정 기간과 보고 방식이 함께 작용했을 수 있기 때문이다. 원문 역시 통제된 비교 실험을 제시하지 않는다.

8월 시드 투자 815만 달러와 약 20명이라는 팀 규모도 회사 설명을 인용한 수치다. 자금은 확장 능력의 단서이지 금융기관의 손실 감소를 입증하는 자료가 아니다. 시장 규모를 살필 때는 FBI IC3 연례 보고서 같은 별도 통계와 제품 성과 자료를 구분해야 한다. 특정 기관에 신고된 피해는 전체 시장의 완전한 집계도 아니다.

차단, 탐지, 잠입형 수집은 서로 보완한다

기존 사기 방어가 번호나 거래의 위험도를 판별한다면, Apate식 접근은 공격자와 접촉해 다음 행동의 단서를 얻으려 한다. 번호가 자주 바뀌는 환경에서 계좌와 도메인 같은 다른 식별자를 연결할 수 있다는 것이 장점이다. 하지만 공격자가 무관한 사람의 계좌를 말하거나 일부러 거짓 정보를 흘릴 가능성도 평가해야 한다.

표의 선택지는 대체 관계만은 아니다. 새 단서를 기존 탐지 시스템에 전달하고, 신뢰도가 낮은 항목은 사람이 조사하도록 연결하는 것이 현실적이다. Google 버그바운티의 검증 병목에서처럼 입력량 증가가 검증 처리량을 앞서면 방어팀에 새 부담이 생긴다.

한국 금융·통신사의 핵심 실험

국내 도입에서는 한국어 발음의 자연스러움만 시험해서는 부족하다. 기관 사칭, 가족 사칭, 투자 권유 등 시나리오별로 정보 추출 성공률과 잘못 식별한 대상을 나누어 측정해야 한다. 계좌가 나온 시각부터 검증·공유·조치가 끝날 때까지의 시간을 기록하면 실제 대응 속도를 볼 수 있다.

운영 단계에서는 원문 대화와 추출값의 연결이 중요하다. 모델이 계좌번호를 잘못 읽었을 때 원래 발화로 돌아가 확인할 수 있어야 한다. 같은 번호를 여러 번 얻었다면 새로운 성과처럼 중복 집계해서도 안 된다. 데이터마다 수집 시각, 출처, 신뢰도, 유효 기간과 검토 상태를 붙이는 것이 유용하다.

또한 수집 환경과 실제 고객 시스템은 분리하는 편이 합리적이다. 악성 링크와 대화 내용은 신뢰할 수 없는 입력이며 에이전트의 지시가 되어서는 안 된다. Pluto의 런타임 통제 분석처럼 실제 실행 권한을 제한하고, 독립적인 에이전트 통제 장치와 같은 관점에서 종료·감사 기능을 검토할 필요가 있다. 이는 제품에 해당 기능이 이미 있다는 주장이 아니라 구매자가 확인할 항목이다.

대화량보다 대응 가능한 정보당 비용

경쟁의 핵심은 어느 모델이 더 그럴듯하게 연기하느냐만이 아니다. 통신 채널 연동, 금융기관과의 정보 교환, 증거 관리와 대응 절차가 제품의 장벽을 만든다. NIST AI 위험관리 프레임워크는 이러한 시스템의 위험과 측정·관리 책임을 정리할 때 참고할 수 있는 일반적 틀이다. 특정 제품을 인증하는 자료는 아니다.

도입팀은 총비용을 검증된 신규 단서 수로 나누고, 그중 실제 대응으로 이어진 비율을 따로 봐야 한다. 긴 대화가 비용만 늘리고 쓸 만한 정보를 내놓지 못한다면 성공으로 계산할 이유가 없다. 반대로 짧은 접촉으로 여러 피해를 연결하는 고품질 단서를 얻었다면 대화 시간은 짧아도 가치가 클 수 있다.

자주 묻는 질문

사기범과 오래 통화하면 피해가 그만큼 줄어드나?

반드시 그렇지는 않다. 공격자의 병렬 작업과 다른 채널 활동까지 알아야 실제 방지 효과를 판단할 수 있다.

76% 손실 감소는 독립 검증 결과인가?

확인한 보도에서는 회사 관계자의 설명이다. 제품 단독 효과를 증명하는 비교 실험으로 제시되지 않았다.

기존 금융 사기 탐지를 대체하나?

새로운 정보를 공급하는 보완 수단으로 보는 편이 적절하다. 거래 탐지와 조사 절차는 여전히 필요하다.

한국어만 지원하면 국내 적용이 가능한가?

언어 외에 지역별 사기 패턴, 채널 연동, 정보 처리 기준과 오탐 검증이 필요하다.

가장 중요한 운영 지표는 무엇인가?

검증된 신규 단서당 비용, 정보 전달 지연, 오탐률과 실제 조치로 이어진 비율을 함께 보는 것이 좋다.