Chat Control 재점화, 암호화 AI의 규제 리스크

두 개의 Chat Control이 동시에 움직인다

Fight Chat Control의 정리에 따르면 2026년 7월 현재 EU의 Chat Control 논쟁은 두 갈래다. 하나는 2021년에 도입된 임시 예외 규정, 즉 Chat Control 1.0의 부활이다. 이 규정은 전자프라이버시 지침의 예외로, 일부 서비스가 사적 메시지를 아동 성착취물 탐지를 위해 자발적으로 스캔할 수 있게 했다. 2026년 4월 4일 만료됐지만, 이사회가 사실상 같은 내용을 새 법안처럼 빠르게 되살리려 한다는 점이 논쟁의 핵심이다.

다른 하나는 영구 규정인 Chat Control 2.0, 즉 CSAR 협상이다. 이 제안은 플랫폼의 탐지와 신고 의무를 제도화하려는 흐름이고, 엔드투엔드 암호화 메시지까지 포함할 수 있는지가 가장 민감한 쟁점이다. 2026년 6월 29일 예정됐던 최종 3자 협의도 합의 없이 끝났고, 7월 7일에는 1.0 부활을 긴급 절차로 다루자는 표결이 331 대 303으로 통과됐다. 7월 9일 구속력 있는 표결에서 절대다수 361명이 필요하다는 대목은 절차 리스크가 얼마나 커졌는지 보여준다.

이 이슈는 유럽 메신저만의 문제가 아니다. 이메일, 클라우드 저장소, 업무용 AI 비서, 로컬 에이전트가 모두 개인 데이터와 업무 맥락을 처리한다. Agenthub가 다룬 Cloudflare 크롤러 정책, Codex 민감 파일 제외, Rowboat류 로컬 워크벤치 경쟁과 같은 흐름을 함께 보면 규제의 초점은 이제 콘텐츠 자체보다 탐지 권한과 데이터 경계로 옮겨가고 있다.

암호화는 기능이 아니라 제품 구조가 된다

엔드투엔드 암호화는 그동안 보안 기능으로 설명됐다. 하지만 Chat Control 논쟁에서는 제품 구조의 문제로 바뀐다. 메시지가 서버에서 복호화되지 않는다면 서버 측 탐지는 어렵다. 그래서 규제 압력은 클라이언트 측 스캔, 업로드 전 검사, 위험 완화 의무 같은 방향으로 흐른다. 이 방식은 탐지 목적이 합법적이어도 기기 내부 신뢰 경계를 바꾼다.

EU 의회의 관련 입법 절차와 Council of the EU 문서를 보면 핵심은 알려진 불법 자료 탐지, 미지 자료 탐지, 텍스트 그루밍 탐지, 암호화 서비스 적용 여부가 서로 다른 위험을 갖는다는 점이다. 특히 AI 모델이 텍스트와 이미지를 분류하는 방식은 오탐과 설명 가능성 문제를 낳는다. 탐지 모델이 사적 대화를 훑는다면 사용자는 암호화 서비스라고 믿으면서도 실제로는 단말 내부 자동 심사를 받게 된다.

한국 기업에도 실무적 질문이 생긴다. 유럽 고객에게 협업툴, AI 고객지원, 메신저, 업무 에이전트를 제공한다면 데이터 처리 위치와 탐지 로직의 책임을 명확히 해야 한다. 모델이 사용자의 로컬 파일, 메일, 회의록을 읽는 경우에도 같은 질문이 적용된다. 탐지 의무가 생기는 순간 "어떤 데이터가 모델에 들어갔는가"보다 "누가 어떤 권한으로 검사했는가"가 감사 포인트가 된다.

AI 에이전트는 더 넓은 공격면을 만든다

메신저 스캔 논쟁이 AI 에이전트 시대에 더 복잡해지는 이유는 에이전트가 단일 앱이 아니라 여러 계정과 파일을 연결하기 때문이다. 일정, 메일, 드라이브, 브라우저, 코드 저장소를 연결한 비서는 편리하지만 규제 당국이 볼 때는 고위험 데이터 처리 허브다. 탐지 의무가 메신저에서 시작되더라도 업무 에이전트로 확장될 가능성을 배제하기 어렵다.

EDRi의 비판, noyb의 디지털 권리 논의, Patrick Breyer의 Chat Control 자료는 공통적으로 일반화된 사적 통신 감시가 기본권과 충돌한다고 본다. 반대로 규제 지지 쪽은 아동 보호와 플랫폼 책임을 강조한다. 양쪽 모두 중요한 가치가 있으므로 기업은 정치적 구호가 아니라 구현 가능한 통제 모델을 준비해야 한다.

기술적으로는 세 가지 선택지가 있다. 첫째, 서버 측 데이터 접근을 줄이고 로컬 처리와 키 분리를 강화한다. 둘째, 탐지가 필요한 영역을 공개 채널, 신고 기반, 영장 기반 처리로 제한한다. 셋째, 모델 추론 로그와 정책 판단 로그를 분리해 민감 원문이 장기 보관되지 않도록 한다. 이 설계가 없다면 규제가 바뀔 때마다 전체 제품을 다시 짜야 한다.

한국 개발자와 기업이 봐야 할 신호

한국 SaaS와 AI 스타트업은 EU 고객이 작더라도 이번 논쟁을 과소평가하면 안 된다. 개인정보 보호, 아동 안전, 암호화, AI 분류 모델 책임은 이미 글로벌 조달 문서의 체크리스트로 들어가고 있다. 특히 엔터프라이즈 고객은 "암호화한다"는 답변만으로 만족하지 않는다. 키 관리, 관리자 권한, 에이전트 권한, 모델 공급자 전송 여부, 로그 보존 기간을 묻는다.

제품팀은 기능 우선순위를 바꿔야 한다. AI 비서가 더 많은 데이터를 읽게 하는 경쟁만으로는 부족하다. 데이터 최소화, 워크스페이스별 권한, 위험 이벤트 감사, 사용자별 로컬 저장소, 관리자 정책 배포가 함께 들어가야 한다. Deptrust의 에이전트 의존성 보안에서 본 것처럼 에이전트 시대 보안은 모델 안전성보다 권한 경계에서 먼저 실패한다.

가장 현실적인 대응은 유럽 규정이 확정될 때까지 기다리는 것이 아니라, 지금부터 민감 데이터 흐름도를 만드는 것이다. 어느 기능이 사적 통신인지, 어느 기능이 업무 기록인지, 어느 단계에서 AI 분류가 일어나는지, 사용자가 이 흐름을 끌 수 있는지 정리해야 한다. Chat Control의 결론이 무엇이든 이런 문서는 향후 AI 규제, 개인정보보호 심사, 보안 실사에서 그대로 쓰인다.

자주 묻는 질문

Q1: Chat Control은 AI 법인가요?

A: 직접적으로는 아동 성착취물 탐지와 통신 규제 이슈다. 그러나 탐지 자동화와 클라이언트 스캔이 AI 분류 모델과 결합될 수 있어 AI 제품에도 영향을 준다.

Q2: 엔드투엔드 암호화가 금지되는 건가요?

A: 아직 그렇게 단정할 수 없다. 다만 암호화 서비스에 탐지 의무를 어떻게 적용할지가 핵심 쟁점이며, 클라이언트 측 스캔 압력이 커질 수 있다.

Q3: 한국 서비스도 영향을 받나요?

A: EU 이용자나 EU 법인이 고객이면 영향을 받을 수 있다. 직접 규제 대상이 아니어도 글로벌 조달과 보안 심사 기준에 반영될 가능성이 높다.

Q4: AI 에이전트 기업은 무엇을 준비해야 하나요?

A: 데이터 흐름도, 권한 모델, 로그 보존 정책, 사용자 동의 UX, 로컬 처리 옵션을 준비해야 한다. 특히 사적 통신과 업무 문서를 구분해야 한다.

Q5: 지금 제품 로드맵에서 가장 먼저 할 일은 무엇인가요?

A: 민감 데이터가 모델, 플러그인, 외부 API, 로그 저장소로 이동하는 경로를 표로 정리하는 일이다. 이 문서가 규제와 고객 보안질문 대응의 출발점이다.