Rio LLM 논란, 주권 AI의 출처 증명 시험

리우의 자체 LLM이라는 주장에 제동이 걸렸다

Nex-AGI가 GitHub 이슈에서 제기한 의혹은 단순한 온라인 논쟁이 아니다. 이슈 작성자는 리우데자네이루의 Rio-3.5-Open-397B가 자체 학습 모델이 아니라 Nex 계열 모델과 Qwen을 0.6 대 0.4 안팎으로 섞은 결과라고 주장했다. 또한 하드코딩된 시스템 프롬프트를 제거하면 모델이 자신을 Rio가 아니라 Nex로 식별한다는 정황도 함께 제시했다. 아직 최종 판정은 아니다. 그러나 이 논쟁은 공공 부문이 "우리의 AI"를 내세울 때 무엇을 증명해야 하는지 선명하게 보여준다.

주권 AI 담론은 보통 데이터센터, 언어, 예산, 국가 브랜드로 포장된다. 하지만 모델 가중치가 어디서 왔는지, 어떤 라이선스를 따르는지, 추가 학습이 실제로 있었는지 입증하지 못하면 주권이라는 말은 마케팅 문구에 가깝다. SoftBank 프랑스 데이터센터, AI 주권 인프라 경쟁이 물리적 인프라를 다뤘다면, 이번 건은 모델 계보의 인프라를 묻는다.

병합 모델은 나쁘지 않지만 숨기면 문제가 된다

오픈 모델 생태계에서 병합은 흔한 기술이다. 여러 모델의 강점을 섞어 특정 벤치마크나 사용성을 개선할 수 있고, 연구와 제품 실험의 속도를 높인다. 문제는 병합 자체가 아니라 출처를 흐리는 행위다. Qwen 모델 카드는 라이선스와 사용 조건을 명시하고, Hugging Face는 모델 카드와 파일 기록을 통해 배포 맥락을 남긴다. 공공기관이 이를 가져다 쓰는 것은 가능할 수 있지만, 자체 학습이라고 홍보한다면 감사 가능한 증거가 필요하다.

Hugging Face 모델 카드 가이드는 모델의 용도, 한계, 라이선스, 평가 정보를 문서화하라고 권한다. 이런 문서가 부실하면 기술적으로는 잘 돌아가도 정책적으로는 불안정하다. 특히 세금이 투입된 공공 AI라면 "무엇을 만들었는가"와 "무엇을 가져왔는가"를 분리해야 한다.

한국의 공공 AI 사업에도 같은 질문이 온다

한국도 지자체, 공공기관, 대기업이 한국어 특화 LLM과 산업별 모델을 내세운다. 이때 가장 쉬운 길은 공개 모델을 가져와 약간 튜닝하고 이름을 붙이는 것이다. 그 자체가 잘못은 아니다. 다만 사업 제안서와 보도자료에서 자체 모델, 국산 모델, 독자 개발이라는 표현을 쓴다면 검증 책임도 함께 커진다. 라이덴 선언, AI 수학 경쟁에 제동을 걸다가 성과 주장에 대한 검증 문화를 말했듯, 모델 개발도 주장보다 증거가 먼저다.

실무적으로는 세 가지가 필요하다. 첫째, 원 모델과 파생 모델의 라이선스 체인을 문서화해야 한다. 둘째, 학습 또는 병합 절차를 해시와 로그로 남겨야 한다. 셋째, 외부 평가자가 같은 결론에 도달할 수 있는 최소한의 산출물을 공개해야 한다. NIST AI RMF는 AI 위험 관리에서 문서화와 거버넌스를 반복적으로 강조한다. 주권 AI도 결국 위험 관리의 대상이다.

출처 증명은 경쟁력이다

모델 출처 논쟁은 앞으로 더 많아질 가능성이 높다. 거대 모델 학습 비용은 크고, 공개 모델의 품질은 빠르게 올라가며, 정부와 기업은 빠른 성과를 원한다. 이 조합은 "새 이름을 붙인 파생 모델"을 늘린다. 그래서 출처 증명은 방어적 규정이 아니라 제품 경쟁력이다. 고객은 모델의 실제 계보를 알아야 비용, 성능, 보안, 규제 리스크를 계산할 수 있다.

Anthropic 자기개선 경고, AI 개발 속도의 새 변수는 AI 개발 과정 자체가 자동화될수록 감시가 필요하다고 봤다. 모델 병합과 자동 평가가 쉬워질수록 계보 추적은 더 중요해진다. 한국 기업이 해외 공공 AI 논란을 남의 일로 볼 이유가 없다. 앞으로 조달과 투자 심사에서 "이 모델이 누구의 모델인가"는 성능표만큼 중요한 질문이 될 것이다.

자주 묻는 질문

Q1: 병합 모델은 불법인가요?

A: 아니다. 라이선스와 사용 조건을 지키고 출처를 명확히 밝히면 연구와 제품 개발에 유용한 방법이다.

Q2: 이번 의혹은 확정된 사실인가요?

A: GitHub 이슈에 제기된 주장과 증거 수준이다. 다만 가중치 통계, 응답 정체성, 모델 카드 공개 부족은 검증이 필요한 강한 신호다.

Q3: 공공기관이 오픈 모델을 쓰면 안 되나요?

A: 쓸 수 있다. 문제는 오픈 모델 활용을 자체 학습 성과처럼 말하거나 라이선스와 파생 관계를 숨기는 것이다.

Q4: 기업은 무엇을 확인해야 하나요?

A: 원 모델, 라이선스, 데이터 출처, 병합·튜닝 로그, 평가 방식, 보안 정책, 상용 사용 가능성을 확인해야 한다.

Q5: 한국형 LLM 사업의 핵심 체크포인트는 무엇인가요?

A: 성능 벤치마크보다 먼저 모델 계보와 재현 가능한 개발 기록을 봐야 한다. 그래야 조달, 투자, 고객 도입에서 신뢰를 얻는다.