Together AI 8억 달러, 네오클라우드의 본게임

83억 달러 가치는 GPU 임대 이상의 의미다

TechCrunch 보도에 따르면 Together AI는 8억 달러 규모의 Series C를 83억 달러 가치로 조달했다. Aramco Ventures가 주도했고 Nvidia, General Catalyst, Emergence Capital 등도 참여했다. Together AI는 2022년에 설립된 AI 네오클라우드로, Nvidia GPU 클러스터와 오픈 모델 실행 인프라를 제공한다.

숫자가 크다. TechCrunch는 Together AI가 직전 분기 기준 연간 예약 매출 11억5000만 달러 이상을 주장한다고 전했다. 회사는 Together AI 플랫폼을 통해 추론, 파인튜닝, 전용 클러스터를 제공하고, Cursor, Cognition, Decagon 같은 고객을 언급했다. 오픈 모델 사용량이 늘었다는 설명은 OpenRouter 같은 게이트웨이 시장 성장과도 맞물린다.

오픈 모델은 싸서 쓰는 것이 아니라 통제하려고 쓴다

기업이 오픈 모델 인프라를 찾는 이유는 단순히 토큰 가격이 낮아서만은 아니다. 데이터 위치, 모델 가중치 선택, 파인튜닝, 지연시간, 벤더 종속성, 감사 가능성을 통제하려는 수요가 커졌다. 폐쇄형 프런티어 모델은 여전히 복잡한 추론과 범용 지식에서 강하지만, 반복 업무 전체를 비싼 토큰으로 처리하기에는 비용 압박이 크다.

한국 기업에는 라우팅 전략의 신호다

한국 스타트업과 엔터프라이즈는 이제 모델 하나를 고르는 방식에서 벗어나야 한다. 고객 상담 초안, 문서 태깅, 로그 요약, 테스트 생성 같은 대량 업무는 오픈 모델 기반 네오클라우드로 처리하고, 법무 검토나 장애 원인 분석처럼 위험이 큰 작업은 상위 모델로 보내는 구조가 현실적이다. Workweave Router, 모델 선택을 인프라로 만든다와 vLLM Micro-Agent, 모델 API 안의 작은 팀가 말한 방향이다.

이때 중요한 것은 평균 벤치마크가 아니라 업무별 실패 비용이다. 오픈 모델이 95% 정확도로 충분한 업무와 99.9% 검증이 필요한 업무를 나눠야 한다. Proxy-KD, 블랙박스 증류의 경제학에서 다룬 증류와 경량화 흐름도 네오클라우드 시장을 키우는 배경이다.

인프라 경쟁은 전력과 자본 경쟁이다

Together AI만 뜨는 것이 아니다. TechCrunch는 Upscale AI, TensorWave 같은 네오클라우드 조달 사례도 함께 언급했다. 이 시장은 모델 품질만으로 움직이지 않는다. GPU 공급, 전력, 데이터센터 위치, 네트워크, 예약 계약, 기업 지원이 모두 경쟁력이다. Nvidia가 투자자로 참여하는 것도 이 생태계가 칩 수요와 직접 연결돼 있음을 보여준다.

다만 위험도 있다. 네오클라우드가 많아질수록 가격 경쟁은 심해지고, 장기 GPU 계약을 감당하지 못하는 사업자는 흔들릴 수 있다. 고객 입장에서는 단기 가격보다 SLA, 데이터 보안, 모델 업데이트 정책, 탈출 비용을 확인해야 한다.

자주 묻는 질문

Q1: 네오클라우드는 기존 AWS·Azure와 무엇이 다른가요?

A: 범용 클라우드보다 AI 학습과 추론에 특화된 GPU 클러스터, 모델 호스팅, 파인튜닝 경험을 앞세운다.

Q2: 오픈 모델은 폐쇄형 모델을 대체하나요?

A: 전면 대체보다 업무별 분담이 현실적이다. 비용 민감 업무는 오픈 모델, 고난도 업무는 프런티어 모델이 맡는 구조가 늘어난다.

Q3: 한국 기업도 쓸 만한가요?

A: 데이터 위치와 보안 요구가 맞는다면 대량 추론 비용을 줄이는 선택지가 될 수 있다.

Q4: 가장 큰 리스크는 무엇인가요?

A: 인프라 사업자의 재무 안정성, GPU 공급, 장기 SLA, 데이터 보호 조건이다.

Q5: 도입 전 무엇을 측정해야 하나요?

A: 작업별 토큰 비용, 지연시간, 실패율, 재시도 비용, 사람 검토 시간을 함께 측정해야 한다.