ArgusRed, 거절하지 않는 보안 모델의 딜레마

보안 AI의 금기가 제품 메시지가 됐다

ArgusRed CLI는 “Audit your code. Or attack it.”이라는 문구로 시작한다. 제품 설명에 따르면 Security Scan 모드는 로컬 코드베이스를 읽고 파일과 라인에 근거한 취약점 보고서를 만들며, Pen Test 모드는 사용자가 승인한 실행 중인 시스템에 대해 실제 공격을 시도한다. HN의 Show HN 게시글에서는 모델을 CTF 데이터로 후학습해 보안 작업에서 거절하지 않고 취약점 검증에 집중하도록 만들었다고 설명한다.

이 메시지는 2026년 보안 AI 논쟁의 정중앙에 있다. 일반 LLM은 악용 가능성이 있는 요청을 거절하도록 정렬된다. 그런데 보안 업무는 방어를 위해 공격 기법을 이해하고 실행해야 한다. 취약점을 찾는 모델이 매번 “위험해서 도와줄 수 없다”고 답하면 실무 가치가 떨어진다. 반대로 너무 쉽게 공격을 수행하면 악용 도구가 된다.

거절을 줄이는 순간 시스템 통제가 더 중요해진다

ArgusRed가 주장하는 차별점은 두 모드의 분리다. 읽기 전용 스캔은 코드에서 근거를 찾고, 펜테스트는 승인된 대상에 한정해 실제 요청과 응답으로 취약점을 증명한다. 이것이 사실이라면 핵심은 모델이 아니라 harness다. 어떤 네트워크로 나갈 수 있는지, 어떤 명령을 막는지, 승인된 host와 endpoint를 어떻게 확인하는지, mutating operation을 어디까지 허용하는지가 제품의 안전성을 결정한다.

Fable 경고, 보안 AI의 허용선을 묻다와 Fable 5 논란, 보안 AI의 허용선이 다룬 문제도 같다. 보안 AI는 거절률만 낮춰서는 성공하지 못한다. false positive를 줄이고, 실제 재현 절차를 제공하며, 조직의 허가 범위 안에서만 움직여야 한다.

검증된 취약점과 그럴듯한 취약점의 차이

AI 보안 도구가 많이 실패하는 지점은 “그럴듯한 취약점”을 많이 찾는 것이다. 보안팀은 이미 SAST, dependency scanner, bug bounty, pentest 보고서의 노이즈에 시달린다. 모델이 수백 개의 가능성을 던지면 생산성이 아니라 분류 비용이 늘어난다. 그래서 ArgusRed가 내세우는 “실제 exploit verification”은 중요한 방향이다. 취약점은 confidence score보다 재현 가능한 입력과 응답으로 설득해야 한다.

OWASP Top 10과 OWASP LLM Top 10은 각각 전통 애플리케이션과 LLM 애플리케이션의 대표 위험을 정리한다. 보안 에이전트는 두 세계를 모두 다뤄야 한다. SQL injection, XSS, 인증 결함뿐 아니라 prompt injection, tool misuse, 데이터 유출도 점검해야 하기 때문이다.

책임 있는 공개와 법적 경계

펜테스트는 허가와 범위가 생명이다. NIST SP 800-115는 기술 보안 테스트와 평가를 체계적으로 수행하는 기준을 제공한다. AI 에이전트가 이 일을 자동화할수록 사전 승인, 변경 금지, 로그 보존, 중단 조건, 보고서 전달 방식이 더 중요해진다. 모델이 “할 수 있다”고 해서 조직이 “해도 된다”고 허가한 것은 아니다.

한국 기업도 보안 AI를 도입할 때 공급업체의 모델 성능표보다 운영 통제를 먼저 봐야 한다. 어떤 데이터가 외부로 나가는지, pen test 모드가 gated인지, 결과가 재현 가능한지, 잘못된 공격이 발생했을 때 누가 책임지는지 계약에 들어가야 한다. AI는 코드다, 프롬프트만으론 안전해지지 않는다가 말한 것처럼 보안 AI도 소프트웨어 공급망으로 관리해야 한다.

방어자가 공격 능력을 가져야 하는 역설

사이버 보안은 본질적으로 이중용도다. 공격을 모르는 방어자는 현실의 위협을 충분히 이해하기 어렵고, 공격 도구를 너무 쉽게 배포하면 피해가 커진다. 그래서 보안 AI의 미래는 “거절한다”와 “무조건 수행한다” 사이가 아니라, 승인된 맥락에서 제한적으로 수행하고 강한 증거를 남기는 쪽으로 갈 가능성이 높다.

Anthropic 모델 금지, 보안 방어의 역설은 방어자 접근 제한이 오히려 보안 역량을 약화할 수 있다고 봤다. ArgusRed 같은 제품은 그 반대편에서 같은 질문을 던진다. 우리는 공격 능력을 가진 모델을 어떻게 통제된 방어 도구로 만들 것인가.

자주 묻는 질문

Q1: ArgusRed는 무엇인가요?

A: 코드 읽기 기반 보안 스캔과 승인된 대상에 대한 능동 펜테스트를 제공한다고 설명하는 CLI 보안 도구다.

Q2: “거절하지 않는 모델”은 위험하지 않나요?

A: 위험할 수 있다. 그래서 모델보다 네트워크 범위 제한, 승인 확인, 로그, sandbox, 보고 절차가 더 중요하다.

Q3: 기존 SAST와 무엇이 다른가요?

A: 주장대로라면 단순 패턴 탐지가 아니라 실제 exploit 검증과 재현 가능한 요청·응답을 제공한다는 점이 다르다.

Q4: 기업이 도입 전 확인할 것은 무엇인가요?

A: 데이터 처리, 승인 절차, 스코프 제한, false positive 처리, 사고 책임, 결과 재현성, 법적 계약 범위를 확인해야 한다.

Q5: 보안팀에는 기회인가요?

A: 제대로 통제되면 반복적인 취약점 검증과 보고서 작성 비용을 줄일 수 있다. 통제가 약하면 새로운 공격 표면이 된다.