프런티어 AI가 공개 CTF의 사다리를 흔든다

Kabir의 글 The CTF scene is dead는 도발적이다. 주장은 간단하다. 프런티어 AI가 공개 CTF 형식을 깨뜨렸고, 점수판은 더 이상 인간 보안 실력을 깨끗하게 측정하지 못한다. 글쓴이는 2021년 첫 CTF 이후 DownUnderCTF와 국제 상위권 팀 경험을 바탕으로, 2025년 말 이후 변화가 급격해졌다고 말한다.

핵심은 AI가 도움 도구가 됐다는 사실이 아니다. 보안 선수들은 원래 disassembler, fuzzing, solver, 검색을 쓴다. 문제는 모델이 reasoning을 수행하고 solve 코드를 작성하고 flag를 가져오며, 사람은 복사만 하는 순간이다. 글은 GPT-4 시절에는 중간 난도 일부가 one-shot 가능해졌고, Claude Opus 4.5와 Claude Code류 CLI 도구 이후 거의 모든 medium과 일부 hard가 agent-solvable해졌다고 주장한다.

점수판이 측정하는 것이 바뀐다

공개 온라인 CTF는 원래 사다리였다. 초보자는 작은 문제를 풀고 점수가 오르고, 더 좋은 팀에 들어가며, 실력이 성장하는 피드백을 얻었다. 그런데 팀이 CTFd API로 challenge별 에이전트를 띄우고 첫 한 시간 동안 easy·medium을 자동으로 태운다면 점수판은 인간의 학습 곡선보다 모델 접근성, 토큰 예산, 오케스트레이션을 더 반영한다. CTFTime 같은 랭킹 시스템의 의미도 흔들린다.

글쓴이는 beginners are fine이라는 반론에도 비판적이다. 초보자가 점수판 위쪽을 보며 성장하는 구조가 깨지면, AI를 쓰기 전의 고통과 시행착오를 경험하기 어렵다. picoGym이나 Hack The Box Academy처럼 교육을 명시한 환경이 더 적합해질 수 있다는 주장이다.

공개 CTF는 pay-to-win이 되는가

글은 GPT-5.5와 Pro 모델이 일부 “Insane difficulty” 수준의 pwn 문제도 one-shot할 수 있다고 주장한다. 이 표현을 그대로 일반화하긴 조심해야 한다. 하지만 방향은 명확하다. 더 강한 모델, 더 긴 컨텍스트, 더 많은 병렬 시도가 가능한 팀은 공개 CTF에서 유리하다. Claude Code 문서와 다양한 CLI 도구가 모델을 터미널과 연결하면서, 보안 문제 풀이도 자동화 파이프라인이 되기 쉬워졌다.

이는 Google의 AI 제로데이 경고와도 연결된다. 방어자는 AI로 취약점 분석 속도가 빨라지는 세계에 적응해야 한다. 동시에 교육과 채용은 “AI를 몰래 썼는지”를 감시하는 방식만으로는 부족하다. AI 사용을 금지할지, 허용하되 기록하게 할지, 사람의 설명과 재현 과정을 평가할지 명확히 해야 한다.

한국 보안 교육과 채용에 주는 경고

국내 보안 동아리, 기업 해킹 대회, 채용형 CTF도 같은 압력을 받는다. 지금까지는 점수, first blood, write-up으로 후보자를 평가했다. 앞으로는 AI 사용 조건을 문제 설명에 명시하고, 제출물에 프롬프트·도구 사용 로그·핵심 추론 설명을 요구해야 할 수 있다. 완전 금지는 현실적으로 어렵고, 무제한 허용은 pay-to-win을 만든다.

대안은 형식 분화다. 교육용 CTF는 AI 사용을 단계적으로 허용해 “힌트 생성”, “풀이 검증”, “코드 리뷰”처럼 학습 목적을 분리한다. 채용용 평가는 라이브 설명, 방어 설계, 로그 분석, incident response처럼 모델이 flag 하나로 끝낼 수 없는 과제를 늘린다. Mythos와 Firefox의 AI 보안 감사가 보여주듯 AI는 보안 업무의 일부가 될 것이므로, 평가도 AI와 함께 일하는 능력을 보되 인간의 판단을 분리해야 한다.

결론

CTF가 완전히 죽었다기보다, 공개 점수판 중심 형식이 과거의 의미를 잃고 있다. AI를 쓰는 것이 부정행위인지 도구 사용인지 애매한 상태를 방치하면 초보자는 학습 사다리를 잃고, 상위권은 토큰 경쟁으로 이동한다. 보안 커뮤니티가 해야 할 일은 향수에 머무는 것이 아니라 AI 시대의 규칙을 새로 쓰는 것이다.

FAQ

CTF가 정말 끝났나?

모든 CTF가 끝났다는 뜻은 아니다. 공개 온라인 점수판이 인간 실력을 순수하게 측정하던 역할이 약해졌다는 주장에 가깝다.

AI 사용을 금지하면 해결되나?

부분적으로만 가능하다. 원격 공개 대회에서는 감지가 어렵고, 참가자의 도구 사용을 완전히 통제하기 힘들다.

초보자는 무엇을 해야 하나?

점수 경쟁보다 picoGym, Hack The Box 같은 학습 중심 환경에서 풀이 과정을 직접 경험하는 것이 중요하다.

채용형 CTF는 어떻게 바뀌어야 하나?

AI 사용 조건을 명시하고, 최종 flag보다 설명, 재현, 로그 분석, 방어 설계, 라이브 질의응답을 함께 평가해야 한다.

AI는 보안 교육에 나쁜가?

아니다. 잘 쓰면 힌트와 리뷰 도구가 된다. 다만 초반 학습의 시행착오를 대체해버리면 실력 형성을 방해한다.