수학·AI 자문그룹, 결과 공개의 규칙을 묻다

수학자들이 기업 밖에 자문 채널을 만들었다

테런스 타오의 블로그에 실린 수학·인공지능 자문그룹 발표는 AI가 수학 연구와 만나는 규칙을 수학계가 직접 설계하려는 움직임이다. Institute for Advanced Study가 호스팅하고 AGMAI 공식 사이트에서 활동하는 이 그룹은 AI 기업에 수학 연구 결과의 책임 있는 발표와 공개 방식을 권고하겠다고 밝혔다.

구성원은 François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten, Melanie Matchett Wood 등 9명이다. 모두 무보수로 참여하고 특정 AI 기업과 독립적으로 운영하며, 기업에 전달한 권고는 공개할 계획이다. 의사결정권은 기업에 남고 책임도 기업이 진다는 경계도 명시했다. 권고기관의 권위와 기업의 책임을 섞지 않겠다는 설계다.

첫 과제는 ‘많은 중요한 결과’를 어떻게 공개할 것인가

그룹 결성 계기는 OpenAI가 일부 구성원에게 외부 자문위원회를 제안한 일이었다. 양측 협의 끝에 특정 회사 소속 위원회가 아니라 독립 그룹을 만들고 참여 범위를 넓혔다. 당면 과제는 OpenAI가 내부 모델로 만들었다고 밝힌 다수의 중요한 수학 결과를 어떤 순서와 방식으로 발표할지 조언하는 것이다. 결과의 정확성이나 중요성이 아직 외부 검증됐다는 뜻은 아니다. 바로 그 검증·공개 절차를 논의하는 단계다.

전통적인 수학 연구는 저자가 문제를 고르고 증명을 작성한 뒤 세미나, 프리프린트, 동료평가를 거친다. 모델이 짧은 기간에 결과를 대량 생산하면 검토자의 시간, 문제의 우선권, 오류 수정, 인간 기여의 귀속이 동시에 병목이 된다. arXiv의 제출 정책은 공개 저장소가 최소한의 형식과 저자 책임을 요구하는 이유를 보여 주며, COPE의 AI 도구 가이드는 AI가 저자가 될 수 없고 인간이 내용에 책임져야 한다는 출판계의 기준을 제공한다.

증명과 이해는 같은 상품이 아니다

형식 증명기가 참이라고 확인한 명제도 인간이 왜 중요한지, 어떤 아이디어가 재사용 가능한지 설명하지 못할 수 있다. 반대로 아름다운 직관도 빈틈 있는 증명을 정당화하지 않는다. Lean 공식 문서 같은 형식 검증은 대량 결과의 정확성을 거르는 강력한 층이지만, 중요도 평가와 수학적 맥락까지 자동화하지는 않는다.

이 차이는 Lean 4 증명, AI 수학의 신뢰 장치가 되다와 연결된다. 검증 가능한 산출물은 필요조건이지 충분조건이 아니다. 타오의 경고, 좋은 수학 문제도 비재생 자원이다가 지적했듯 공개되지 않은 문제와 평가셋은 한 번 노출되면 다시 순수한 시험지가 되기 어렵다. 어떤 결과를 언제 공개할지는 연구 자원의 보존 문제이기도 하다.

또 다른 위험은 발표의 비대칭이다. 기업은 모델 성능을 보여 줄 유인이 크고, 수학자는 세부를 검증하는 데 긴 시간을 쓴다. 잘못된 주장이 정정되기 전에 브랜드와 언론 보도로 굳어질 수 있다. 미공개 수학과 AI 신뢰의 균열에서 다룬 데이터 출처 문제까지 포함하면, 증명 파일뿐 아니라 문제의 출처·모델 버전·도구 사용·인간 편집 범위를 공개해야 한다.

한국 학계와 기업이 준비할 공개 프로토콜

국내 대학과 연구소도 특정 모델의 성과를 보도자료로 먼저 발표하기보다 공개 단계를 정해야 한다. 1단계는 명제·출처·중복 여부 확인, 2단계는 독립 전문가의 수학적 검토, 3단계는 Lean 같은 형식 검증과 계산 재현, 4단계는 인간이 읽을 수 있는 해설 공개다. 각 단계의 통과 여부를 한 화면에 표시하면 ‘AI가 풀었다’는 한 문장보다 신뢰도가 높다.

기업 자문위원회도 이름만 빌리는 장치가 되지 않으려면 회의 의제, 권고문, 회사가 수용하거나 거부한 항목과 이유를 남겨야 한다. AGMAI가 권고 공개를 약속한 점은 좋은 출발이다. 다만 강제력이 없으므로 실제 평가는 앞으로 공개될 권고의 구체성과 기업의 이행 기록에 달렸다. 한국수학회, 연구재단, 학술지 편집위원회가 공동 템플릿을 만들면 개별 연구자가 기업의 발표 속도를 혼자 감당하는 문제를 줄일 수 있다.

자주 묻는 질문

Q1: 이 그룹은 OpenAI 소속인가요?

A: 아니다. OpenAI의 제안이 계기였지만 독립적으로 구성됐고 구성원은 이 활동에 대한 기업 보수를 받지 않는다고 밝혔다.

Q2: 자문그룹이 기업 결정을 막을 수 있나요?

A: 아니다. 권고권만 있으며 최종 결정과 책임은 각 기업에 남는다.

Q3: 발표된 수학 결과는 이미 검증됐나요?

A: 공지문은 OpenAI가 내부 모델로 중요한 결과들을 만들었다고 보고했다고 전한다. 외부 검증 완료를 선언한 것은 아니다.

Q4: 형식 증명만 있으면 충분한가요?

A: 정확성 검증에는 매우 유용하지만 결과의 중요성, 출처, 인간 기여, 설명 가능성까지 자동으로 보장하지 않는다.

Q5: 가장 필요한 공개 정보는 무엇인가요?

A: 문제 출처, 모델·도구 버전, 생성과 편집 과정, 독립 검토자, 기계검증 파일, 알려진 한계를 함께 공개해야 한다.