Claude 양자 회로 최적화, 12배 개선의 정확한 범위

회로를 제안하는 AI와 검사하는 프로그램

Anthropic은 10월 16일 양자 회로 연구 발표에서 Claude Mythos 5가 8개 계산 기본 과제의 회로 설계를 개선했다고 밝혔다. 모델이 회로를 코드로 제안하면 외부 평가기가 정확성과 자원 사용량을 검사하고, 그 피드백을 바탕으로 다시 설계하는 구조다. 회사는 일부 과제에서 기존 공개 회로 대비 자원을 한 자릿수 배 이상 줄였다고 설명한다.

이 결과는 실물 양자컴퓨터에서 모든 응용 프로그램이 그만큼 빨라졌다는 발표가 아니다. 비교 대상은 특정 계산을 수행하는 회로의 큐비트 수와 게이트 수 등 설계 자원이다. 유용한 양자컴퓨터에 가까워질 가능성을 보여 주지만 하드웨어, 오류 정정, 제어 시스템까지 완성했다는 의미로 읽어서는 안 된다.

연구의 상세 내용은 발표가 연결한 논문에서 확인할 수 있다. 보도 요약의 최대 개선 배수를 예산 산정에 쓰기 전에 과제 정의와 비교 기준을 먼저 읽어야 한다.

53시간 탐색에서 드러난 공간과 시간의 교환

발표는 타원곡선 점 덧셈 과제에서 약 53시간 동안 탐색했다고 설명한다. 사람의 개입은 초기 설명과 때때로 탐색을 넓히도록 한 요청 등으로 제한됐다고 밝힌다. 따라서 완전히 아무 개입이 없는 실험이라고 쓰는 것도, 사람이 모든 알고리즘을 설계했다고 쓰는 것도 원문의 범위와 맞지 않는다.

핵심 중 하나는 모듈러 역원을 계산하는 divsteps의 가역 구현이다. 양자 회로는 중간 정보를 일반 프로그램처럼 쉽게 버릴 수 없으므로, 나중에 연산을 되돌릴 수 있도록 분기 이력을 저장하거나 다시 복원해야 한다. 연구진에 따르면 Claude는 현재 숫자 상태에서 필요한 분기 정보를 복구하는 규칙을 찾고 수치 검증과 Lean 형식화를 수행했다. Lean 공식 소개는 이런 증명 도구의 역할을 이해하는 배경 자료다. 특정 명제의 형식화와 전체 물리 시스템의 검증은 별개다.

모든 설계가 큐비트와 게이트 양쪽에서 같은 비율로 개선된 것도 아니다. 발표는 이전의 가장 작은 설계와 비교한 한 회로가 큐비트는 12% 더 사용하지만 게이트는 17배 적게 사용한다고 명시한다. 이는 자원 간 교환을 통해 선택 가능한 설계 범위를 넓힌 결과이지 모든 지표의 동시 17배 개선이 아니다.

12배 감소에는 오류 허용 조건이 있다

또 다른 사례는 DQI라는 양자 최적화 알고리즘에 필요한 Reed–Solomon 복호화 단계다. 발표에 따르면 기존 방식 대신 Berlekamp–Massey 기반 구조를 채택하고, 임시 값을 저장하는 대신 재구성하며, 드문 예외를 위한 자원 배분을 줄였다. 이 조합으로 해당 복호기의 게이트 수를 이전 구성 대비 12분의 1 수준으로 줄였다는 설명이다.

여기에는 중요한 조건이 있다. 연구진은 4억 300만 번의 표본 복호화 시뮬레이션에서 예외가 얼마나 자주 발생하는지 살폈고, 하나의 값을 저장하는 19큐비트 공간을 두는 방식을 택했다고 한다. 약 1만 번 중 한 번은 더 많은 공간이 필요해 실패하지만 과제가 허용하는 오류 범위 안이라는 설명이다. 표본에서 관찰한 실패율을 모든 입력에 대한 무오류 보장으로 바꿔 쓰면 안 된다.

Google 연구진의 관련 DQI 자료는 이 최적화가 놓이는 알고리즘 배경을 이해하는 데 도움이 된다. 회로 하나의 비용 감소가 최종 업무의 시간 감소로 얼마나 전달되는지는 다른 단계의 비중과 하드웨어 구현에 따라 달라진다.

경쟁력은 모델 밖의 평가기에 쌓인다

이 사례의 실용적 함의는 AI가 긴 시간을 스스로 생각했다는 데서 끝나지 않는다. 제안이 틀렸는지 확인하고 비용을 점수로 돌려줄 수 있는 환경을 만들었다는 점이 핵심이다. 같은 모델도 평가기가 모호하거나 잘못된 목표를 주면 값싼 오답을 최적화할 수 있다. 반대로 정확성과 자원 제약이 명시되면 수많은 변형을 비교하는 작업을 자동화할 여지가 커진다.

InnovationEval 분석에서처럼 점수와 새로운 연구 성과를 구분해야 한다. 기존 설계의 조건을 누락해 점수만 좋아지는 경우를 막으려면 경계 입력, 허용 오차와 독립 검증을 평가에 포함해야 한다. 연구진이 보수적인 탐색을 넓히도록 개입했다는 설명 역시 자동화 수준을 투명하게 평가하는 데 필요하다.

Scion의 에이전트 저장소 병목과 연결해 보면 병렬 탐색에는 결과를 비교하고 되돌릴 수 있는 기록도 필요하다. 수백 개의 시도 중 최종 설계만 남기면 실패 원인과 재현 조건을 잃을 수 있다.

한국 연구팀은 검증 가능한 작은 문제부터

국내 대학·반도체·양자 연구팀은 전체 연구를 한 번에 위임하기보다 입력·출력과 자원 지표가 명확한 작은 루틴에서 시작할 수 있다. 기존 구현, 정확성 판정기, 경계 사례, 비용 측정법을 준비하고 AI가 제안한 변형을 같은 조건에서 비교하는 방식이다. 이는 발표된 특정 모델을 사용해야만 가능한 조직 설계는 아니다.

특히 확률적 실패를 허용하는 과제에서는 평균 개선과 최악의 경우를 함께 적어야 한다. 허용한 오류 예산이 뒤 단계에서 중첩되는지, 물리적 오류 정정 비용까지 포함했는지 확인하지 않으면 논리 회로의 절감이 실제 장비 비용으로 그대로 연결되지 않을 수 있다. 암호 관련 루틴의 개선 역시 현재의 공개키 체계가 즉시 깨졌다는 증거로 취급하면 안 된다.

AI 코딩의 리뷰 병목 연구가 보여 주는 일반적 문제도 같다. 제안의 수가 늘어난 뒤 전문가가 검토해야 하는 총량이 줄었는지까지 측정해야 연구 자동화의 순효과를 알 수 있다.

자주 묻는 질문

실제 양자컴퓨터가 12배 빨라졌나?

발표의 12배는 특정 복호기 회로의 게이트 수 비교다. 전체 장비의 실측 가속 수치가 아니다.

Claude가 혼자 모든 연구를 끝냈나?

연구진은 초기 명세와 평가 환경을 제공했고 일부 탐색 방향 개입도 있었다고 밝혔다.

게이트 수가 줄면 큐비트 수도 줄어드나?

반드시 그렇지 않다. 소개된 한 설계는 큐비트를 12% 더 쓰는 대신 게이트를 크게 줄였다.

약 1만 분의 1 실패는 무시해도 되나?

해당 과제의 허용 조건에서 평가된 값이다. 다른 업무에는 별도의 오류 예산 판단이 필요하다.

국내 팀이 가장 먼저 준비할 것은 무엇인가?

모델에게 줄 과제보다 먼저 정확성 검사와 비용 평가를 독립적으로 수행할 환경을 준비하는 것이 유용하다.