Fable 안전분류기, 연구 생산성의 역풍

안전장치가 모델의 쓸모를 삼킬 때

COMBINE-lab의 Rob Patro는 2026년 7월 7일 글에서 Anthropic의 Claude Fable 5가 생물정보학과 컴퓨터과학 연구 작업에 사실상 쓸모없었다고 비판했다. 글의 핵심 사례는 두 가지다. 하나는 RNA-seq transcript quantification 도구인 salmon을 C++에서 Rust로 옮기는 공개 오픈소스 소프트웨어 작업이었고, 다른 하나는 rooted tree와 parity로 추상화한 이산수학 문제였다. 저자에 따르면 둘 다 Fable의 안전 분류기에 막혔다.

배경에는 2026년 6월 Fable 5와 Mythos 5를 둘러싼 수출통제 논란이 있다. Anthropic은 6월 30일 글에서 미국 정부가 6월 12일 두 모델에 수출통제를 적용했고, 국적을 실시간 검증할 방법이 없어 접근을 중단했으며, 이후 통제가 해제되어 7월 1일부터 Fable 5를 다시 제공한다고 밝혔다. 동시에 더 강한 사이버보안 safeguards를 적용했다고 설명했다.

문제는 이 safeguards가 실제 연구자에게 어떻게 체감되는가다. Agenthub의 Short Leash와 Fable 코딩, Anthropic 수출통제 해제 분석, Claude Code 마커 논란과 이어지는 질문은 같다. 안전을 강화한 모델이 사용자의 정당한 작업을 얼마나 자주 잘못 막고, 그때 사용자는 무엇을 할 수 있는가.

Fable 사례의 불편한 디테일

COMBINE-lab 글에서 첫 번째 작업은 생물학 연구 자체가 아니라 공개 소프트웨어 포팅이었다. 저자는 기존 C++11/14 코드를 C++20로 정리했고, 더 나아가 Rust 재작성에 Fable을 써보려 했다고 설명한다. 하지만 RNA-seq와 생물학 용어가 문서와 코드에 포함돼 있다는 이유로 보이는 거절을 받았고, Fable은 대신 Opus 4.8로 넘기겠다고 했다. 저자는 15~30분 동안 표현을 바꿨지만 실패했다고 적었다.

두 번째 사례는 더 심각하다. 저자는 단백질 상호작용 네트워크 문제를 추상 수학 문제로 벗겨냈고, blocking 같은 단어가 사이버보안으로 오해될 수 있다는 조언까지 반영해 표현을 바꿨지만 여전히 거절됐다고 밝혔다. 이 경우 모델이 실제 위험을 판별했다기보다 특정 도메인 또는 사용자 맥락에 과잉 반응한 것처럼 보인다.

안전과 거버넌스의 진짜 쟁점

이 논란을 "안전장치가 나쁘다"로 읽으면 곤란하다. 생물, 화학, 사이버보안 영역에서 고성능 모델이 위험을 키울 수 있다는 우려는 현실적이다. Anthropic도 Fable 5 재배포 글에서 Fable 5가 독특한 공격 능력을 제공하지 않도록 강한 safeguards를 적용했다고 밝혔다. 문제는 차단 정책이 무해한 연구와 교육, 오픈소스 개발까지 광범위하게 막을 때 이를 어떻게 설명하고 복구하느냐다.

연구용 모델에는 세 가지 운영 기능이 필요하다. 첫째, 거절 사유의 계층화다. 사용자가 정책을 우회할 정도의 세부사항은 아니더라도, 생물학 용어, 사이버보안 용어, 파일 맥락, 계정 맥락 중 무엇이 문제였는지는 알아야 한다. 둘째, 검토 요청 경로다. 셋째, fallback이 품질과 비용에서 어떤 차이를 갖는지 명확히 알려야 한다. "Opus로 보낼까요"는 단기 완충책일 수 있지만, Fable 자체를 평가하려던 사용자에게는 답이 아니다.

한국 연구기관과 바이오 스타트업에는 더 직접적인 문제다. 생물정보학, 의료 AI, 보안 연구는 모두 민감 단어를 포함한다. 글로벌 모델이 도메인 단어만 보고 과잉 차단하면, 국내 팀은 실험을 중단하거나 덜 안전하지만 더 자유로운 대체 모델로 이동할 수 있다. 이는 안전 목표에도 역효과다.

경쟁 구도: 강한 모델보다 믿을 수 있는 모델

Anthropic의 Fable 5는 강력한 모델로 기대를 모았지만, 이번 사례는 모델 선택 기준을 바꾼다. 연구자와 기업은 이제 지능뿐 아니라 거절율, 오탐 복구 시간, 로그 설명 가능성, 정책 변경 예고, 지역별 접근성까지 봐야 한다. ITPro의 수출통제 해설도 통제 해제 이후에도 서비스 신뢰에 흔적이 남을 수 있다고 지적했다.

OpenAI, Google, Anthropic 모두 고위험 도메인 통제를 강화하고 있다. 하지만 도구로서의 AI는 사용자가 실패 원인을 이해하고 다음 행동을 결정할 수 있어야 한다. Fable 논란은 safety classifier가 제품의 일부라면, 그 분류기도 성능, 오탐, 사용자 지원, 감사 가능성 측면에서 평가받아야 한다는 사실을 보여준다.

자주 묻는 질문

Q1: Fable이 모든 사용자에게 쓸모없다는 뜻인가요?

A: 아니다. COMBINE-lab 글은 특정 연구자와 생물정보학, 수학, 컴퓨터과학 작업에서의 경험이다. 다만 오탐이 연구 생산성을 크게 훼손할 수 있음을 보여준다.

Q2: Anthropic이 안전장치를 없애야 하나요?

A: 그렇지 않다. 위험 차단은 필요하다. 문제는 무해한 작업이 막혔을 때 설명, 검토, 복구 절차가 부족하다는 점이다.

Q3: 왜 생물정보학이 특히 영향을 받나요?

A: RNA-seq, 단백질, 유전체 같은 단어가 고위험 생물학 맥락으로 오해될 수 있다. 하지만 많은 작업은 단순 소프트웨어 개발이나 통계 분석이다.

Q4: 기업은 이런 모델을 어떻게 평가해야 하나요?

A: 성능 벤치마크뿐 아니라 도메인별 거절율, fallback 품질, 지원 응답 시간, 정책 변경 리스크를 테스트해야 한다.

Q5: 한국 연구팀의 현실적 대안은 무엇인가요?

A: 민감 도메인 작업용 내부 평가셋을 만들고, 여러 모델의 거절 패턴을 비교해야 한다. 필요하면 로컬 모델이나 계약형 엔터프라이즈 모델을 병행하는 전략이 필요하다.