ChatGPT 5.5 Pro의 수학 연구 사례, 연구 보조의 기준선이 올라갔다

“한 시간 만에 박사급 연구”라는 평가가 던진 질문

필즈상 수상자인 수학자 티모시 가워스는 자신의 블로그 글 A recent experience with ChatGPT 5.5 Pro에서 인상적인 경험을 공유했다. 그는 접근 권한을 받은 ChatGPT 5.5 Pro가 약 한 시간 만에 박사급 연구에 해당하는 결과를 냈고, 자신은 “serious mathematical input”을 거의 주지 않았다고 썼다. 대상은 Mel Nathanson의 논문 Diversity, Equity and Inclusion for Problems in Additive Number Theory에 제시된 문제들이었다.

이 사례는 모델이 갑자기 인간 수학자를 대체한다는 단순한 이야기가 아니다. 가워스가 더 흥미롭게 보는 지점은, 새로 제기된 조합론·정수론 문제 중 일부는 인간 연구자가 아직 깊게 살펴보지 않았을 뿐 상대적으로 쉬울 수 있다는 점이다. 예전에는 이런 문제가 신진 연구자에게 좋은 출발점이었지만, 이제는 LLM이 먼저 탐색할 수 있는 영역이 됐다.

“문헌 조합”도 연구 노동의 상당 부분이다

가워스는 LLM 성과를 낮춰 보는 흔한 반응도 함께 짚는다. 많은 경우 모델은 완전히 새로운 발상을 한 것이 아니라 문헌에 이미 있는 결과나 기법을 결합한다. 그러나 그는 인간 수학의 상당 부분도 기존 지식과 증명 기술을 적절히 조합하는 일이라고 지적한다. 이 말은 Google DeepMind AlphaEvolve가 알고리즘 탐색에서 보여준 방향과 통한다.

연구 자동화의 핵심은 “완전한 독창성” 여부보다 탐색 비용의 변화다. 모델이 후보 정리, 관련 정리 검색, 반례 탐색, 증명 골격 작성을 빠르게 반복하면 연구자는 더 높은 수준의 판단에 집중할 수 있다. 동시에 LLM 위임 작업의 문서 손상 연구가 경고하듯, 긴 증명과 문서에서는 조용한 오류가 누적될 수 있다.

연구 기관과 대학원 교육의 기준선이 바뀐다

이 변화는 대학원 교육에도 영향을 준다. 과거에는 “공식적으로 열린 문제를 해결했다”는 경험이 연구자 성장의 큰 계단이었다. 이제 그런 문제 중 일부는 모델이 먼저 풀 가능성이 있다. 교육자는 더 어려운 문제를 던지는 것만으로 대응하기보다, AI가 만든 주장과 증명을 검증하고 확장하는 능력을 가르쳐야 한다.

Anthropic의 Claude 정렬 연구가 말하는 설명 가능성은 연구 보조에서도 중요하다. 모델이 답을 제시할 때 어떤 정리를 썼는지, 어떤 가정을 필요로 하는지, 어떤 경계 조건에서 실패하는지 명시해야 한다. Braintrust 평가 인프라 이슈처럼 평가 체계 자체도 연구 자동화 시대의 핵심 인프라가 된다.

한국 연구팀은 “AI 검증 프로토콜”을 먼저 갖춰야 한다

국내 대학과 기업 연구소가 얻을 실무적 교훈은 분명하다. 프런티어 모델을 금지할 이유는 줄어들고 있지만, 그대로 믿을 이유도 없다. AI가 제안한 증명은 원문 링크, 문헌 출처, 독립 재현, 형식 검증 가능성을 기준으로 관리해야 한다. Lean 같은 정리 증명기, arXiv 문헌 검색, 세미나식 반박 리뷰를 결합하면 연구 속도와 신뢰를 함께 높일 수 있다.

OpenAI 공식 문서, arXiv, Semantic Scholar 같은 공개 인프라를 연결한 연구 워크플로는 더 보편화될 것이다. 중요한 것은 모델이 낸 결과를 논문으로 바로 옮기는 것이 아니라, 모델을 빠른 공동 탐색자로 두고 인간 연구자가 새로움·엄밀성·의미를 책임지는 구조다.

FAQ

Q1. 가워스의 글은 무엇을 주장하나?
ChatGPT 5.5 Pro가 일부 수학 연구 문제에서 예상보다 훨씬 강한 탐색 능력을 보였고, 연구 보조의 기준선이 올라갔다는 경험을 공유한다.

Q2. 이것이 AI가 수학자를 대체한다는 뜻인가?
아니다. 문제 선택, 결과의 중요성 판단, 엄밀한 검증, 새로운 연구 방향 설정은 여전히 인간 연구자의 핵심 역할이다.

Q3. 왜 대학원 교육에 영향이 있나?
쉬운 열린 문제를 해결하는 경험 일부를 AI가 먼저 가져갈 수 있기 때문이다. 교육은 검증과 확장 능력 중심으로 바뀔 가능성이 있다.

Q4. 가장 큰 위험은 무엇인가?
그럴듯하지만 틀린 증명, 문헌 오인용, 조건 누락이다. 연구용 LLM에는 독립 검증 절차가 필수다.

Q5. 실무 연구팀은 어떻게 활용해야 하나?
문제 후보 탐색, 반례 생성, 관련 문헌 요약에는 적극 활용하되, 최종 주장은 인간 검토와 형식적 검증을 거쳐야 한다.