Claude Code 사고 로그, 감사 추적의 착시

thinking 출력은 원문이 아니다

Patrick McCanna의 글은 Claude Code 사용자가 놓치기 쉬운 지점을 짚는다. 로컬 세션 기록에는 thinking block처럼 보이는 항목이 남지만, 실제로는 600자 길이의 signature와 요약이 있을 뿐 원본 추론 텍스트가 사용자 기기에 남는 구조가 아니라는 주장이다. 그는 Anthropic extended thinking 문서를 근거로 Claude 4 계열에서 API가 full thinking process의 summary를 반환한다고 설명한다.

이 차이는 사소한 UX 문제가 아니다. 많은 조직이 코딩 에이전트 도입을 검토하면서 "모델이 왜 그런 결정을 했는지 나중에 감사할 수 있는가"를 묻는다. 화면에 thinking처럼 보이는 텍스트가 있다고 해서 그것이 실제 행동을 낳은 내부 추론의 원문이라는 뜻은 아니다.

요약은 설명이지 증거가 아니다

Anthropic은 summarized thinking이 오용을 줄이면서 extended thinking의 이점을 제공한다고 설명한다. AWS Bedrock 문서도 Claude Messages extended thinking에서 요약 thinking과 과금되는 thinking token의 차이를 언급한다. 이 설계에는 안전상 이유가 있다. 체인 오브 쏘트 원문을 그대로 노출하면 모델 취약점, jailbreak 경로, 민감 정보가 드러날 수 있기 때문이다.

하지만 감사 관점에서는 이름이 중요하다. 요약은 모델 또는 시스템이 재구성한 설명이다. 실제 입력, 도구 호출, 파일 변경, 네트워크 접근, 테스트 결과, 최종 출력과 같은 행위 로그와 같은 증거 수준이 아니다.

에이전트 운영자는 무엇을 남겨야 하나

코딩 에이전트의 위험은 생각을 볼 수 없다는 데서만 나오지 않는다. 더 큰 위험은 무엇을 했는지 남기지 않는 것이다. 파일을 읽었는지, 어떤 명령을 실행했는지, 어떤 diff를 만들었는지, 테스트가 실패했는데 무시했는지, 외부 URL을 열었는지 같은 기록이 있어야 한다. Claude Code 관련 문서를 읽을 때도 기능 설명과 감사 보증을 분리해서 봐야 한다.

이 주제는 Claude 성격 논쟁, 정렬의 부작용을 묻다와 연결된다. 모델이 사용자에게 친절하게 설명하는 것과 실제 내부 상태가 일치한다고 가정하면 위험하다. Fable 5 논란, 보안 AI의 허용선도 보안 작업에서 모델의 설명과 행동 경계를 별도로 검증해야 함을 보여줬다.

규제와 기업 보안의 오해

기업은 "AI가 판단한 이유"를 문서화하고 싶어 한다. 그러나 내부 추론 원문을 보관하는 방식은 개인정보, 영업비밀, 보안 취약점 노출 문제를 만들 수 있다. 반대로 요약 thinking만 보관하면 실제 증거가 부족할 수 있다. 따라서 더 나은 접근은 reasoning transcript를 요구하는 것이 아니라 행위 기반 감사 설계를 만드는 것이다.

예를 들어 배포 전 에이전트는 변경 파일, 실행 명령, 테스트 결과, 외부 네트워크 접근, 승인자, 위험 라벨을 구조화 로그로 남겨야 한다. 민감 저장소에서는 AI는 코드다, 프롬프트만으론 안전해지지 않는다에서 다룬 공급망 관점처럼 프롬프트와 도구 결과도 외부 입력으로 취급해야 한다. 모델 설명은 유용하지만 단독 근거가 되어서는 안 된다.

투명성의 기준을 다시 잡아야 한다

사용자가 원하는 것은 모델의 머릿속 전체가 아니라 책임 있게 운영할 수 있는 시스템이다. 사고 원문 접근권을 둘러싼 논쟁은 계속되겠지만, 실무자는 지금 당장 검증 가능한 로그를 설계할 수 있다. 입력과 출력, 도구 호출, 권한 경계, diff, 테스트, 승인 기록은 모델 제공사가 바뀌어도 유지되는 감사 단위다.

Claude Code의 thinking 출력 논란은 한 제품의 문제가 아니라 AI 에이전트 시장 전체의 언어 문제다. "thinking", "reasoning", "audit trail"이라는 단어가 서로 다른 층위를 가리킬 수 있음을 명확히 해야 한다. 그렇지 않으면 화면에 보이는 친절한 설명이 실제 보증처럼 소비된다.

자주 묻는 질문

Q1: Claude Code의 extended thinking은 실제 사고 원문인가요?

A: 공개 문서와 Patrick McCanna의 분석에 따르면 Claude 4의 extended thinking 출력은 원문 전체가 아니라 요약으로 보는 것이 맞다.

Q2: 왜 원문 thinking을 공개하지 않나요?

A: 모델 안전, 악용 방지, 민감 정보 노출 가능성 때문에 제공사가 원문 노출을 제한할 수 있다.

Q3: 요약 thinking은 쓸모없나요?

A: 아니다. 문제 이해와 디버깅에는 도움이 된다. 다만 법적 감사나 보안 증거로 단독 사용하기에는 한계가 있다.

Q4: 기업은 어떤 로그를 남겨야 하나요?

A: 입력, 출력, 도구 호출, 파일 diff, 테스트 결과, 권한 승인, 외부 네트워크 접근 기록처럼 재현 가능한 행위 로그를 남겨야 한다.

Q5: 다른 모델에도 같은 문제가 있나요?

A: 가능하다. 모델별로 reasoning, thinking, trace라는 용어와 공개 수준이 다르므로 제품 문서를 확인하고 감사 설계를 독립적으로 해야 한다.