Character.AI 회생 절차, 대화 데이터는 누구에게 가나

AI 서비스의 종료 조건이 제품 문제가 됐다

Character.AI의 회생 절차를 두고 미국 법무장관들이 민감한 이용자 대화가 보호 없이 이전될 수 있다고 경고했다. 10월 14일 뉴욕주 법무장관실 발표에 따르면 뉴욕을 포함한 초당적 법무장관 40명이 회사 자산의 매각·이전에 보호 조건이 필요하다는 입장을 냈다.

The Verge 보도는 Character.AI가 전날 Chapter 11 절차와 Disney에 일부 자산을 매각하는 계획을 발표했다고 전한다. 매각 계획의 보도와 이용자 대화 데이터의 실제 이전 완료는 구분해야 한다. 확인한 자료만으로 모든 대화가 특정 구매자에게 넘어갔다고 결론 내릴 수는 없다.

AI 동반자 서비스의 대화에는 취향을 넘어 심리 상태, 관계와 일상에 관한 민감한 정보가 쌓일 수 있다. 따라서 누가 모델과 브랜드를 인수하는지만큼 누가 어떤 목적으로 대화 기록에 접근할 수 있는지가 중요하다. 서비스 운영 중의 개인정보 정책만 읽어서는 소유자가 바뀔 때의 위험을 충분히 설명하기 어렵다.

당국의 요구와 법원의 결정은 다르다

당국이 제출한 관심사항 통지 문서와 보도자료는 매각 과정에서 다뤄야 할 규제 문제를 제기한다. 연령 확인, 유해 콘텐츠 제한, 위기 상황 대응, 개인정보 이용 고지와 유효한 동의, 매각 전 정보 열람·삭제 기회 등이 요구에 포함된다.

이 요구가 모두 법원의 확정 명령이 됐다는 뜻은 아니다. 보도자료가 설명한 조사 결과와 위법 가능성 역시 최종 법적 판단과 구분해야 한다. The Verge는 기사 작성 시점에 Character.AI와 Disney가 논평 요청에 즉시 응답하지 않았다고 적었다. 이번 분석도 그 이후의 매각 승인이나 최종 거래 조건을 확인한 것으로 제시하지 않는다.

미국 연방법원의 Chapter 11 설명에 따르면 이 절차는 통상 재조정을 위한 파산 절차이며 사업을 계속 운영할 수 있다. 따라서 절차 개시를 즉각적인 서비스 폐쇄나 모든 데이터 삭제와 같은 사건으로 취급하면 안 된다.

대화, 요약, 모델은 서로 다른 이전 대상

AI 서비스는 원본 대화 외에도 대화 요약, 검색용 색인, 사용자 프로필과 운영 로그를 만들 수 있다. 다만 이는 일반적인 시스템 설계의 예이며 Character.AI의 내부 저장 구조가 모두 이와 같다고 확인한 것은 아니다. 핵심은 이용자가 삭제를 요청할 때 어떤 파생 데이터까지 처리되는지 서비스가 설명할 수 있어야 한다는 점이다.

매각 대상에 데이터가 들어 있다는 사실만으로 이용 목적이 무제한으로 확장되는 것은 아니다. 반대로 삭제 버튼이 있다고 모든 백업과 이미 학습된 모델에서 즉시 흔적을 제거할 수 있다고 약속해서도 안 된다. 실제 구현과 적용 법률, 보존 필요를 반영해 가능한 조치와 예외를 구체적으로 고지해야 한다.

미성년자 보호를 거래 이후로 미룰 수 없는 이유

뉴욕주 발표는 월간 이용자가 2천만 명 이상이며 그중 200만 개 이상의 계정이 스스로 18세 미만이라고 등록했다고 설명한다. 이는 당국 발표에 제시된 규모이며 독립적으로 확인한 실제 연령 분포는 아니다. 자기신고 나이는 정확한 연령 검증과 같지 않다는 점도 함께 봐야 한다.

당국은 기존 안전 조치가 새 소유자 아래서 바뀔 수 있다는 위험을 제기한다. 그러므로 보호 기능을 현재 제품 화면의 옵션으로만 남길지, 데이터 이전과 운영 조건에도 연결할지가 쟁점이 된다. 법무장관들의 요구를 거래가 끝난 뒤 검토할 부가 기능 정도로 해석하면 사안의 핵심을 놓친다.

대화 맥락을 고려한 안전 평가는 단일 발화 검사만으로 장기 관계의 위험을 포착하기 어렵다는 관점을 제공한다. 그룹 채팅 에이전트의 동의 문제는 한 계정의 동의가 다른 사람의 정보까지 포괄하지 않음을 보여준다. 데이터의 보유 주체가 바뀌면 이러한 경계는 더 복잡해진다.

한국 AI 기업이 평상시에 준비할 것

국내 서비스는 투자나 인수 협상이 시작되기 전에 데이터 자산 목록을 정리할 수 있다. 어떤 데이터를 어떤 목적으로 모았는지, 외부 처리업체와 모델 제공자에게 무엇이 전달되는지, 삭제 요청이 어디까지 전파되는지를 연결해야 한다. 미국 사건의 요구가 한국 사업자에게 그대로 적용된다는 뜻은 아니며, 국내 의무는 적용되는 법률과 계약을 따로 검토해야 한다.

기술적으로는 계정 종료와 데이터 삭제를 별도 단계로 관리하고 결과를 추적하는 방식이 유용하다. 소유권 변경 시 고지, 이의 제기, 다운로드와 삭제 요청을 처리할 인력·기간도 운영 계획에 넣어야 한다. 도산 직전에만 만들려 하면 담당 인력과 자금이 부족할 수 있다.

무료 개인 AI의 기능 지속성 분석이 서비스가 멈췄을 때 남는 기능을 물었다면, 이번 사건은 서비스가 팔렸을 때 남는 권리를 묻는다. 신뢰는 모델의 친근한 대답만으로 만들어지지 않는다. 이용 관계가 끝나거나 회사가 바뀔 때 사용자가 무엇을 통제할 수 있는지가 장기 경쟁력이 된다.

자주 묻는 질문

대화 데이터가 Disney에 이미 넘어갔나?

확인한 보도는 일부 자산 매각 계획을 전한다. 모든 대화 데이터의 실제 이전 완료를 확인한 자료는 아니다.

40명의 법무장관이 요구한 조치는 확정됐나?

확인한 문서는 보호 조건을 요구하는 입장과 제출 문서다. 전부 확정된 법원 명령으로 보아서는 안 된다.

Chapter 11이면 서비스가 즉시 종료되나?

반드시 그렇지는 않다. 미국 법원 안내에 따르면 재조정 중 사업을 계속할 수 있다.

계정을 삭제하면 모든 파생 데이터도 사라지나?

서비스 구현과 보존 정책에 따라 다르다. 요약·색인·백업 처리 범위와 완료 시점을 별도로 확인해야 한다.

한국 기업이 가장 먼저 할 일은 무엇인가?

원본과 파생 데이터, 수집 목적, 동의 근거와 외부 처리업체를 연결한 목록을 만들고 소유권 변경 시 처리 절차를 점검하는 것이다.