DeepSeek 증류 실험, 검열은 지식처럼 옮겨가지 않았다

검열도 증류되는가

CTGT의 연구 글은 민감한 질문을 정면으로 다룬다. 중국계 프런티어 모델을 교사로 삼아 미국 오픈 모델을 특정 도메인에 맞게 증류하면, 교사의 정치적 검열 성향도 함께 옮겨가는가. 연구진은 DeepSeek V4 Flash를 교사로, GPT-OSS-120B를 학생 모델로 사용했고, 금융 추론 성능을 높이는 실험과 중국 민감 주제 검열 평가를 함께 공개했다.

핵심 결과는 조심스럽지만 강하다. DeepSeek V4 Flash는 중국 민감 프롬프트와 대응 통제 프롬프트 사이에서 평균 45.45점의 검열 격차를 보였다고 한다. 반면 DeepSeek 출력으로 금융 추론을 학습한 CTGT 120B는 원래 GPT-OSS-120B base와 비교해 통계적으로 의미 있는 검열 차이를 보이지 않았다. 연구진은 304개 프롬프트, 152개 matched pair, 네 개 미국 프런티어 랩의 판정 모델을 썼다고 설명한다.

성능은 오르고 행동은 덜 옮겨갔다

더 흥미로운 부분은 self-distillation 결과다. 연구진은 모델이 틀린 금융 문제에서 오류가 시작되는 지점에 힌트를 넣고, 수정된 continuation을 학습시키는 방식을 썼다. DeepSeek가 힌트를 쓴 경우와 학생 모델 자신이 힌트를 쓴 경우를 비교했는데, 238개 FinanceReasoning 항목과 세 seed에서 비슷한 결과가 나왔다. 공개 글은 8,000토큰 생성 예산에서 self-distilled 120B가 83.61%를 기록했다고 제시한다.

이 결과가 맞다면 메시지는 단순한 친중 검열 논쟁을 넘어선다. 도메인별 성능 개선은 교사 모델의 전체 세계관을 그대로 복사하지 않을 수 있다. 하지만 동시에 질문도 남는다. 금융 추론이라는 좁은 도메인, 특정 모델 조합, 특정 평가 설계에서 나온 결과이기 때문이다. 중국 모델을 두려워하는 진짜 이유가 말했듯 문제는 모델 국적 하나로 정리되지 않는다. 비용, 배포권, 데이터 통제, 평가 체계가 같이 움직인다.

오픈웨이트 논쟁의 새 중간지대

미국과 중국의 AI 경쟁에서 오픈웨이트 모델은 비용과 접근성의 무기다. 중국 오픈웨이트 전략, 미국 AI를 흔들다와 중국 오픈웨이트 금지 논쟁, 스타트업의 비용 전쟁은 그 긴장을 다뤘다. CTGT 실험은 이 논쟁에 중간지대를 만든다. 중국 모델 활용을 전면 금지하거나 전면 수용하는 대신, 무엇이 전이되는지 실험으로 확인하자는 접근이다.

관련 배경으로는 DeepSeek-R1 검열 연구가 있다. 이 연구는 DeepSeek 계열의 지역적 검열과 distillation 전이 가능성을 다룬다. CTGT는 더 생산 환경에 가까운 금융 증류 조건에서 다른 결과를 내놓았다. 두 연구가 충돌한다기보다 질문이 다르다. 하나는 모델 자체의 검열 행동을 보고, 다른 하나는 특정 도메인 학습에서 그 행동이 학생에게 남는지를 본다. CTGT가 함께 공개한 LineageEval 코드와 gpt-oss-20b-finance weights는 이런 주장을 외부에서 다시 검토할 수 있게 만드는 장치다.

한국 기업은 정책을 이분법으로 만들지 말아야 한다

한국 스타트업과 대기업은 이미 비용 때문에 중국 오픈 모델을 검토한다. 특히 대량 추론, 사내 문서 검색, 코드 보조, 금융 리서치처럼 단가가 민감한 영역에서는 유혹이 크다. 그러나 "검열이 전이되지 않는다"는 한 줄로 조달 정책을 느슨하게 만들면 위험하다. 모델 증류의 데이터 범위, teacher output 저장 여부, 민감 질의 필터, 평가 세트, 최종 배포 지역을 분리해서 관리해야 한다.

반대로 중국 모델 사용을 모두 막는 것도 현실적이지 않을 수 있다. 오픈소스 AI 논쟁, 위험보다 운영을 봐야 한다가 지적했듯 위험은 모델 라이선스보다 운영 방식에서 자주 발생한다. CTGT의 실험은 오픈 모델을 더 정밀하게 감사하는 도구의 필요성을 키운다. 금지 목록보다 lineage 평가, red-team 로그, 사용자 질의 샘플링, 도메인별 회귀 테스트가 더 실용적이다.

자주 묻는 질문

Q1: 이 연구는 DeepSeek 검열이 문제가 없다는 뜻인가요?

A: 아니다. 교사 모델 자체의 검열 격차는 크게 측정됐다. 다만 특정 금융 증류 실험에서 학생 모델로 유의미하게 옮겨가지 않았다는 주장이다.

Q2: GPT-OSS는 무엇인가요?

A: 연구에서 사용한 미국 오픈 모델 계열이다. 기사에서는 CTGT 연구의 맥락 안에서만 다룬다.

Q3: 기업이 중국 모델로 증류해도 안전한가요?

A: 일반화할 수 없다. 데이터 도메인, 평가 설계, 배포 환경, 규제 요구를 따로 검증해야 한다.

Q4: matched prompt pair가 왜 중요한가요?

A: 모델이 특정 국가 주제만 회피하는지, 어려운 정치 질문 전체를 회피하는지 분리해 볼 수 있기 때문이다.

Q5: 한국 기업의 실무 대응은 무엇인가요?

A: 교사 모델 출처, 학습 데이터, 평가 세트, 민감 주제 테스트, 배포 전 사람 검토 기준을 문서화해야 한다.