HiddenLayer 1억 달러, AI 보안이 예산 항목이 됐다

AI 보안은 드디어 별도 시장이 됐다

TechCrunch는 AI 보안 스타트업 HiddenLayer가 1억 달러 Series B를 유치했다고 보도했다. 투자자는 Delta-v Capital, Ten Eleven Ventures, Morgan Stanley, Microsoft M12, Booz Allen Hamilton 등이다. 회사는 모델, 에이전트, 워크플로를 적대적 공격, 취약점, 악성 코드 주입에서 보호하는 도구를 만든다.

숫자가 더 중요하다. 보도에 따르면 Gartner는 기업의 AI 보안 제품 지출이 올해 28.3억 달러로 2025년보다 83% 늘고, 내년에는 47.8억 달러에 이를 것으로 봤다. HiddenLayer의 연간 반복 매출도 지난 1년 10배 이상 성장했고, 현재 수천만 달러 규모라고 한다. AI 보안이 실험실 논쟁에서 구매 예산으로 이동했다는 뜻이다.

추론 엔진 취약점, LLM이 자기 실행 호스트를 노릴 수 있다는 AI 실행 환경 자체가 공격면이라고 봤다. HiddenLayer의 성장세는 그 판단이 시장에서도 가격을 얻고 있음을 보여준다.

보안의 중심이 모델 파일에서 에이전트 실행으로 넓어진다

HiddenLayer는 기존의 discovery, runtime protection, attack simulation, supply chain security 범위를 GenAI와 agentic workflow로 확장했다고 설명했다. 특히 prompt injection, agent manipulation, malicious tool use가 새로운 초점이다. 모델이 단순히 텍스트를 생성할 때와 외부 도구를 호출할 때의 위험은 다르다.

HiddenLayer가 강조하는 런타임 보호는 전통 보안의 EDR과 비슷한 위치를 노린다. 엔드포인트에서 프로세스 행동을 감시하듯, AI 시스템에서는 프롬프트, 도구 호출, 모델 입력 파일, 출력 행동을 감시해야 한다. NIST AI Risk Management Framework는 AI 위험을 지도화하고 측정, 관리하라고 말한다. 이제 그 원칙이 제품 구매로 번역되고 있다.

오픈 웨이트 모델은 자유와 검증 비용을 함께 준다

TechCrunch 보도에서 흥미로운 대목은 HiddenLayer가 약 50개 AI 파일 프레임워크를 파싱하고 스캔한다고 밝힌 부분이다. 오픈 소스와 오픈 웨이트 모델은 기업에 선택권을 주지만, 동시에 "받은 파일이 정말 주장한 모델인가", "숨은 모델이나 악성 객체가 들어 있지 않은가"를 확인해야 하는 비용을 만든다.

Hugging Face 같은 모델 허브는 AI 개발의 핵심 인프라가 됐다. 그러나 모델 파일은 코드, 데이터, 가중치, 설정이 섞인 공급망 아티팩트다. OpenAI와 Hugging Face 평가 보안 사고는 평가와 모델 생태계가 이미 보안 문제와 연결돼 있음을 보여줬다.

한국 기업은 PoC 예산과 보안 예산을 분리해야 한다

많은 조직은 AI PoC 예산 안에 보안 검토를 끼워 넣는다. 하지만 에이전트가 사내 문서를 읽고, 티켓을 만들고, 데이터베이스를 조회하고, 배포 파이프라인을 건드리면 보안은 부가 작업이 아니다. 런타임 보호, 프롬프트 주입 테스트, 모델 공급망 검증, 권한 분리, 사고 대응 훈련은 별도 예산과 책임자를 필요로 한다.

Copilot cowork 파일 유출, 에이전트 보안의 첫 경고음는 협업 도구 안의 에이전트가 파일 경계를 넘어설 때 어떤 문제가 생길 수 있는지 다뤘다. 한국 기업의 대응은 "AI를 쓰지 말자"가 아니라 "AI를 EDR, DLP, IAM처럼 관리하자"에 가까워야 한다.

대형 보안사의 인수전도 빨라질 수 있다

TechCrunch는 Cisco, Palo Alto Networks, Check Point 같은 대형 보안사가 이 영역을 직접 만들기보다 인수하려 할 수 있다고 봤다. 이미 Palo Alto Networks가 관련 회사를 인수했다는 보도도 같은 날 나왔다. Microsoft M12 같은 전략 투자자가 참여한 점도 의미가 있다. AI 보안은 독립 스타트업 시장인 동시에 클라우드, 모델 플랫폼, 보안 스위트에 흡수될 기능이다.

한국 보안 스타트업에도 기회가 있다. 영어권 모델만 보는 도구보다 한국어 문서, 내부망, 공공 클라우드, 금융권 망분리, 국내 SaaS 권한 구조를 이해하는 AI 보안 제품이 필요해질 수 있다. HiddenLayer의 1억 달러 라운드는 "AI 보안이 뜬다"는 막연한 구호가 아니라, 실제 예산과 조달 항목이 생겼다는 증거다.

자주 묻는 질문

Q1: HiddenLayer는 무엇을 하나요?

A: AI 모델, 에이전트, 워크플로를 적대적 공격, 취약점, 악성 코드 주입, 공급망 위험에서 보호하는 보안 제품을 만듭니다.

Q2: 왜 지금 AI 보안 지출이 늘어나나요?

A: 기업 AI 배포가 파일 조회, 도구 호출, 업무 자동화로 확장되면서 prompt injection, agent manipulation, malicious tool use 같은 위험이 실제 운영 문제가 됐기 때문입니다.

Q3: 런타임 보호가 왜 중요한가요?

A: 모델은 배포 후 실제 입력과 도구 권한을 만나며 위험해질 수 있습니다. 실행 중 행동을 감시하고 차단하는 계층이 필요합니다.

Q4: 오픈 웨이트 모델은 더 위험한가요?

A: 반드시 그렇지는 않습니다. 다만 파일 출처, 숨은 구성, 악성 객체 여부를 검증하는 공급망 절차가 필요합니다.

Q5: 한국 기업은 무엇부터 해야 하나요?

A: AI PoC와 별도로 보안 예산을 잡고, 런타임 로그, 권한 분리, 프롬프트 주입 테스트, 모델 파일 검증을 배포 조건으로 넣어야 합니다.