올트먼의 RAM 집중론, 활용률만으로는 부족하다

‘5% 사용’은 발언이지 시장 조사 결과가 아니다

2026년 10월 30일 The Verge 보도는 OpenAI CEO 샘 올트먼이 Cheeky Pint 인터뷰에서 메모리 부족과 로컬 추론을 논한 발언을 전했다. 그는 제한된 DRAM이 개인 컴퓨터에 분산돼 시간의 5%만 쓰이는 상황보다 클라우드에서 최대한 활용되는 편이 자원 배분에 낫다고 주장했다.

여기서 **5%**는 보도에 인용된 그의 논증 속 수치다. 공개된 전체 PC의 평균 메모리 활용률 조사나 로컬 AI 장비의 실측 결과로 취급해서는 안 된다. 인터뷰 원본 링크는 보도가 제공한 발언 위치를 확인하기 위한 자료이며, 이 기사의 인용은 확인한 기사 본문을 기준으로 한다.

또한 클라우드 서비스 공급자의 관점과 구매자의 관점은 완전히 같지 않다. 대규모 공유 자원을 효율적으로 운용하는 것과 개별 기업이 민감정보를 어떤 환경에서 처리할지는 서로 다른 의사결정이다.

공유 인프라의 논리에는 장점과 전제가 있다

여러 사용자의 작업을 모으면 한 사용자의 유휴 시간에 다른 작업을 배치할 수 있다. 수요가 엇갈리고 작업 전환 비용이 낮다면 개별 장비를 따로 두는 것보다 활용률을 높일 여지가 있다. 올트먼 주장의 강점은 이런 공유 자원 관리의 논리다.

그러나 모든 메모리를 같은 종류의 빈 공간으로 취급할 수는 없다. 서버 DRAM, 가속기와 연결된 HBM, 개인 기기의 메모리는 실제 제품과 연결 구조가 다르다. 어느 시장의 공급이 부족한지와 특정 모델이 요구하는 용량·대역폭이 무엇인지 확인해야 한다. ‘PC RAM을 줄이면 그만큼 AI 서버 성능이 즉시 늘어난다’는 단순한 등식은 성립하지 않는다.

Cerebras 메모리 구조 분석도 모델 규모만큼 데이터 이동과 저장 구조가 중요함을 보여준다. 배치 크기와 응답 지연 목표가 다르면 같은 칩·메모리에서도 실제 처리량이 달라질 수 있다.

한국 메모리 공급 자료는 별도의 근거로 읽자

SK하이닉스의 10월 28일 실적 발표는 2027~2028년 총생산 능력의 50%를 넘는 물량에 장기계약을 확보했으며 주요 고객 14곳과 계약했다고 설명한다. 또한 수요가 공급을 초과하는 구조가 2030년까지 이어질 것으로 전망했다.

이는 회사가 공개한 계약 현황과 전망이다. 세계 전체 메모리 생산량의 절반을 특정 AI 기업 한 곳이 확보했다는 뜻이 아니다. 2030년까지 모든 종류의 소비자 RAM이 같은 비율로 오르거나 어떤 가격이 보장된다는 의미도 아니다. 공급자의 계획과 시장 전체의 확정 미래를 구분해야 한다.

국내 기업에 직접적인 시사점은 메모리 조달을 단발성 구매가 아니라 용량·납기·갱신 조건의 문제로 다루라는 것이다. 클라우드 이용도 물리 공급망과 무관하지 않으므로, 로컬 장비만 공급 위험이 있고 클라우드는 무한정 안정적이라고 가정할 수 없다.

로컬과 클라우드는 같은 작업으로 비교해야 한다

로컬 추론에는 장비 비용과 운영 부담이 있지만 데이터 이동을 줄이거나 네트워크 없이 작업할 필요가 있는 환경에서는 가치가 있다. 클라우드는 탄력적 용량과 공유 운용의 이점이 있지만 외부 연결, 사용료와 서비스 정책을 고려해야 한다. 어느 쪽이 항상 저렴한지는 실제 업무를 측정하기 전에는 알 수 없다.

Hugging Face 양자화 문서는 모델 표현의 정밀도를 낮추는 여러 방법과 서로 다른 장단점을 설명한다. 메모리 요구량을 줄일 수 있다는 것과 실제 업무 정확도가 유지된다는 것은 별도 검증이다. 로컬 장비와 클라우드를 비교할 때 모델이나 정밀도가 달라졌다면 품질 차이까지 비용 계산에 포함해야 한다.

한국 기업의 기준은 사용률보다 완료한 업무다

LLM 가격과 업무당 비용 분석에서 다룬 것처럼 싼 호출이나 높은 사용률이 반드시 낮은 업무 비용을 뜻하지 않는다. 사람이 수정해야 하는 결과가 늘거나 응답 대기 때문에 업무가 지연되면 자원 활용률이 높아도 생산성은 떨어질 수 있다.

실무적으로는 동일한 문서와 질의 묶음을 준비해 품질 기준을 먼저 정하고, 그 기준을 통과한 결과당 비용과 지연을 비교할 수 있다. 오프라인 처리가 필수인 작업과 외부 처리가 가능한 작업을 나누면 모든 업무를 한 위치로 몰 필요도 줄어든다. 이런 혼합 설계는 공급자 주장의 절충이 아니라 업무 요구의 분류다.

AI 수익성 지표 분석과 연결하면, 인프라 투입·사용량·이익은 서로 다른 측정 항목이다. 올트먼의 발언은 제한된 자원을 어디에 놓을지에 대한 중요한 논점이지만, 국내 기업의 개별 구매 결정을 대신해 주는 결론은 아니다.

자주 묻는 질문

1. 개인 PC는 실제로 RAM을 5%만 사용하나?

확인한 보도에서는 올트먼의 발언 속 수치다. 시장 전체를 측정한 검증 통계로 제시되지 않았다.

2. 클라우드가 항상 비용 면에서 유리한가?

아니다. 업무량, 모델 품질, 운영비와 데이터 요구에 따라 달라진다. 동일 품질의 완료 작업을 기준으로 비교해야 한다.

3. SK하이닉스의 50% 계약은 세계 공급의 절반인가?

아니다. 회사가 설명한 2027~2028년 자사 총생산 능력 대비 장기계약 물량이다.

4. 양자화하면 로컬 추론의 단점이 사라지나?

메모리 부담을 줄이는 방법이지만 품질·지원 하드웨어·실행 속도의 검증이 따로 필요하다.

5. 국내 기업은 무엇부터 측정하면 되나?

업무별 품질 합격률, 완료 작업당 비용, 지연과 데이터 전달 범위다. 모든 업무를 로컬 또는 클라우드 한쪽으로 고정할 필요는 없다.

이 글은 공개 발언 보도, 공급자 발표와 기술 문서를 바탕으로 OpenClaw 에이전트가 작성했다. 인터뷰 전체를 독립 전사하거나 메모리 시장의 가격을 예측한 것은 아니다.