라이덴 선언, AI 수학 경쟁에 제동을 걸다

수학자들이 속도에 경고를 냈다

Science는 AI가 수학에서 빠르게 영향력을 넓히는 상황에 대해 수학자들이 경고를 냈다고 보도했다. 접근 가능한 공식 원문 기준으로 핵심 사건은 2026년 6월 2일 공개된 Leiden Declaration on Artificial Intelligence and Mathematics다. 이 선언은 AI가 수학 연구에 주는 도전과 기회를 다루며, International Mathematical Union의 2026년 5월 뉴스레터는 IMU가 이 선언을 지지한다고 밝혔다.

선언의 메시지는 AI 반대가 아니다. AI가 수학 연구, 형식화, 기호 계산, 추론 보조에 실제 기여할 수 있다는 점을 인정한다. 동시에 연구 공동체가 기술 기업의 속도와 홍보 논리에 끌려가서는 안 된다고 말한다. 수학은 정답을 내놓는 게임이 아니라 증명, 검토, 출판, 교육, 공동체 신뢰로 유지되는 지식 체계이기 때문이다.

Leiden Declaration의 DOI 기록은 이 선언을 학술적으로 인용 가능한 문서로 고정한다. 이는 단순 블로그 글이 아니라 연구 공동체의 정책 문서에 가깝다. AI 수학 경쟁이 "어떤 모델이 올림피아드 문제를 맞혔는가"에서 "어떤 절차로 검증 가능한 수학 지식이 되는가"로 옮겨가고 있다는 신호다.

벤치마크와 논문은 다르다

AI 기업은 수학을 일반 추론 능력의 상징으로 자주 사용한다. 어려운 문제를 풀었다는 홍보는 이해하기 쉽고 강력하다. 하지만 수학자들이 우려하는 지점은 바로 그 단순화다. 문제 풀이 점수는 모델의 특정 능력을 보여줄 수 있지만, 새로운 정리의 가치, 증명의 정확성, 기존 문헌과의 관계, 연구 공동체의 검증 과정을 대체하지 못한다.

OpenAI 수학 돌파에서 보았듯 AI가 수학 발견을 돕는 장면은 점점 늘고 있다. 그러나 그 사례도 결국 사람이 문제를 해석하고, 결과를 검토하고, 의미를 설명하는 절차와 함께 읽어야 한다. Stanford AI Index 2026의 과학 장도 AI가 과학 연구 전반에 빠르게 들어오고 있음을 보여준다. 속도가 빨라질수록 검증 체계는 더 중요해진다.

자동 증명 도구와 LLM의 결합

수학에서 AI가 실제로 강해지는 지점은 LLM 단독보다 형식 증명 도구와 결합될 때다. Lean, Coq, Isabelle 같은 proof assistant는 사람이 쓴 증명을 기계적으로 확인할 수 있게 한다. LLM은 후보 증명, 보조정리, 탐색 경로를 제안할 수 있다. 이 조합은 유용하지만, 동시에 수학자의 노동을 "검증 버튼 누르기"로 축소하는 상업적 서사를 만들 위험도 있다.

Shaping the Future of Mathematics in the Age of AI 같은 논의는 AI 시대 수학 연구의 제도적 대응이 필요하다고 본다. 문제는 기술이 아니라 거버넌스다. AI가 만든 초안이 대량으로 제출되면 저널과 컨퍼런스는 리뷰 부담을 떠안는다. 잘못된 정리가 그럴듯한 형식으로 퍼지면 대학원생과 연구자가 검증 비용을 부담한다.

한국 수학계와 AI 연구자에게도 같은 문제가 온다. 정부 과제와 기업 홍보에서 "AI가 수학을 풀었다"는 표현이 늘어날수록, 실제 검증 절차와 연구 기여를 분리해 평가해야 한다. 특히 교육 현장에서는 학생이 AI로 만든 증명 초안을 제출했을 때 무엇을 학습 성취로 볼지 새 기준이 필요하다.

한국 AI 기업의 기회와 책임

한국 기업에는 두 가지 기회가 있다. 하나는 수학 특화 모델이나 자동 증명 보조 도구를 개발하는 것이다. 다른 하나는 AI 결과를 검증하고 출처화하는 인프라를 만드는 것이다. 후자가 더 오래 갈 수 있다. AI가 내놓은 풀이가 어떤 정의와 정리를 사용했는지, 어느 단계가 형식 검증됐는지, 사람이 어디를 승인했는지 추적하는 도구가 필요해진다.

이는 코딩 에이전트와도 닮았다. Constraint Decay가 보여준 코딩 에이전트의 구조 망각은 긴 작업에서 모델이 제약을 잊는 문제를 다뤘다. 수학에서도 모델은 그럴듯한 중간 단계를 만들 수 있지만, 전체 증명 구조를 끝까지 지키지 못할 수 있다. 따라서 검증 가능한 중간 산출물과 사람의 리뷰 지점이 제품 설계의 핵심이 된다.

라이덴 선언은 AI 수학 경쟁을 멈추자는 문서가 아니다. 연구 공동체가 기준을 먼저 세우자는 문서다. 기업은 이 메시지를 방어적으로 볼 필요가 없다. 오히려 수학자들이 요구하는 검증, 투명성, 책임 기준을 제품 요구사항으로 받아들이면 더 신뢰받는 연구용 AI를 만들 수 있다.

자주 묻는 질문

Q1: 라이덴 선언은 AI 사용을 반대하나요?

A: 아니다. AI의 가능성을 인정하면서도 수학 연구의 검증, 출판, 평가 체계가 기업 홍보 속도에 종속되지 않아야 한다고 말한다.

Q2: AI가 수학 문제를 잘 풀면 왜 문제가 되나요?

A: 문제 풀이 능력과 새로운 수학 지식의 검증은 다르다. 정답 점수만으로 연구 기여를 판단하면 과장이 생긴다.

Q3: 자동 증명 도구는 해결책인가요?

A: 중요한 도구지만 완전한 해결책은 아니다. 형식화할 가치가 있는 문제 선택, 증명 해석, 연구 맥락화는 여전히 사람과 공동체의 역할이다.

Q4: 한국 대학은 무엇을 준비해야 하나요?

A: AI 보조 증명의 사용 기준, 과제 평가 방식, 연구 윤리 지침, 형식 검증 교육을 함께 마련해야 한다.

Q5: AI 기업에는 어떤 기회가 있나요?

A: 풀이 생성보다 검증, 출처 추적, 증명 단계 관리, 사람 리뷰 흐름을 제공하는 연구 인프라가 큰 기회가 될 수 있다.