Anthropic 자기개선 경고, AI 개발 속도의 새 변수

자기개선은 먼 미래가 아니라 개발 병목의 문제다

Anthropic Institute의 When AI builds itself는 recursive self-improvement를 직접 다룬다. 글은 Anthropic이 AI 개발의 점점 더 큰 몫을 AI 시스템에 위임하고 있으며, 이것이 충분히 진행되면 AI가 자기 후속 모델을 설계하고 개발하는 단계로 이어질 수 있다고 설명한다. 동시에 "아직 거기에 도달하지 않았고 필연도 아니다"라고 선을 긋는다.

이 글에서 실무자가 봐야 할 대목은 공상적 종말론이 아니라 지표다. Anthropic은 현재 엔지니어가 2021년부터 2025년까지의 평균보다 분기당 8배 많은 코드를 ship한다고 밝혔다. 2026년 5월 기준 Anthropic 코드베이스에 merge되는 코드의 80% 이상이 Claude가 작성한 것으로 attribution된다고도 설명한다. METR의 task horizon 흐름을 인용해 AI가 독립적으로 수행 가능한 작업 길이가 4개월마다 두 배가 되는 추세라고 제시한 것도 같은 맥락이다.

Claude Opus 4.8, 에이전트 병렬화의 비용 시험대, Uber 월 1500달러 AI 한도, 에이전트 비용의 기준선, Copilot 토큰 과금, 코딩 에이전트 비용의 현실화은 코딩 에이전트가 이미 비용과 생산성 논쟁의 중심에 있음을 보여줬다. 이번 글은 그 논쟁을 AI 연구 개발 자체로 끌어올린다.

코드 작성 이후의 병목

코드 작성이 빨라지면 개발 프로세스가 자동으로 빨라지는 것처럼 보인다. 그러나 Anthropic의 글은 반대로 인간 역할이 좁아지면서 review, experiment selection, governance가 병목이 된다고 본다. AI가 코드를 빠르게 만들수록 사람은 "이 실험을 할 가치가 있는가", "이 변경이 모델 행동을 어떻게 바꾸는가", "검토 속도가 생성 속도를 따라가는가"를 판단해야 한다.

Ashby가 별도 글에서 말한 것처럼 AI 시대에는 writing code가 싸지고 verification이 비싸진다. Anthropic의 recursive self-improvement 논의도 같은 방향이다. 단지 제품 코드가 아니라 모델 연구, 데이터 파이프라인, 평가, 안전성 실험까지 이 구도가 확장된다.

경쟁사와 정책기관이 읽을 신호

OpenAI, Google DeepMind, xAI, Anthropic은 모두 더 강한 코딩 및 연구 에이전트를 제품과 내부 개발에 쓰고 있다. METR의 time horizons 연구는 모델이 장시간 작업을 얼마나 안정적으로 끝내는지를 측정하는 대표 지표가 됐다. Anthropic의 Responsible Scaling Policy는 모델 능력이 커질수록 안전 요구를 높이는 방식의 정책 틀을 제시한다. Dario Amodei의 Machines of Loving Grace는 긍정적 가능성을, The Adolescence of Technology는 위험 관리를 설명한다.

정책기관 입장에서는 "AI가 AI를 만든다"는 문장보다 검증 가능한 운영 지표가 중요하다. 어느 회사가 어느 정도의 코드를 AI로 작성하는지, review backlog가 얼마나 늘었는지, 안전성 평가를 AI가 직접 설계하는지, 중단 결정이 필요한 때 누가 멈출 수 있는지가 정책의 질문이 된다.

한국 기업의 시사점

한국의 대기업과 스타트업은 이 논의를 연구소의 철학으로만 보면 안 된다. 사내 개발 플랫폼에 코딩 에이전트가 들어오면 동일한 dynamics가 작게 반복된다. 한 팀이 에이전트로 대량 PR을 만들면 review 팀이 막히고, review가 약해지면 장애와 보안 부채가 증가한다. 반대로 review tooling, 테스트 선택, 코드 소유권, 릴리스 관측성을 잘 갖춘 조직은 AI 생산성 증가를 실제 배포 속도로 전환할 수 있다.

Weave 채용공고가 보여준 AI 개발 측정 시장에서 다룬 것처럼 앞으로 중요한 시장은 AI가 쓴 코드 비율을 자랑하는 것이 아니라 그 코드가 어떤 품질과 위험으로 운영에 들어갔는지를 측정하는 도구다. Anthropic의 글은 그 시장이 AI 연구소 내부에서도 필요하다는 신호다.

자주 묻는 질문

Q1: recursive self-improvement가 이미 일어났다는 뜻인가요?

A: 아니다. Anthropic도 완전한 자기개선에 도달하지 않았고 필연도 아니라고 말한다. 다만 AI가 AI 개발을 가속한다는 내부 지표를 공개했다.

Q2: 80% 코드 작성 지표를 그대로 믿어도 되나요?

A: 회사가 공개한 attribution 기준의 지표다. 실험 코드와 production merge code의 정의가 다르므로 다른 조직과 직접 비교하기보다 방향성으로 보는 편이 맞다.

Q3: 한국 기업에는 어떤 변화가 먼저 오나요?

A: 코딩 에이전트 도입 뒤 PR 양이 늘고, review와 테스트 선택이 병목이 되는 변화가 먼저 온다.

Q4: 규제는 무엇을 봐야 하나요?

A: 모델 능력보다 운영 통제 가능성, 안전 평가 독립성, 중단 권한, AI-authored 변경의 감사 추적을 봐야 한다.

Q5: 개발팀은 무엇부터 준비해야 하나요?

A: AI 코드 비율보다 review budget, 자동 테스트 선택, 위험 기반 배포, owner 책임을 정량화하는 내부 지표부터 만들어야 한다.