PS5LM, 게임기의 로컬 AI 서버 전환이 보여준 조건

TV 아래 게임기가 모델 서버가 된다

10월 17일 확인한 PS5LM 공개 저장소는 탈옥한 PS5에서 llama.cpp를 실행해 가정 내 다른 기기에 언어모델 응답을 제공하는 프로젝트다. README는 콘솔의 RDNA 2 GPU와 Vulkan 백엔드를 사용하고, GGUF 모델을 불러와 노트북·휴대전화·코딩 도구가 접속하는 서버로 동작한다고 설명한다. 이 기사는 저장소의 현재 설명을 분석한 것이며 같은 날 새 제품이 출시됐다는 의미는 아니다.

Sony가 공식 배포한 AI 기능이 아니다. 프로젝트는 Sony와의 비제휴 관계를 명시하고 별도의 홈브루 실행 환경을 전제로 한다. 따라서 일반 PS5 사용자가 앱스토어에서 설치해 쓰는 상용 서비스와 동일하게 소개하면 중요한 조건을 빠뜨리게 된다. 여기서는 우회 설치 절차가 아니라 하드웨어 재활용과 로컬 추론의 구조를 살핀다.

메모리와 모델 크기가 활용 범위를 정한다

README는 모델과 문맥을 위해 사용할 수 있는 공유 메모리를 11.4GB로 설명한다. 공개된 PS5 Slim 측정치는 Qwen 3.5 0.8B의 Q4_K_M 모델에서 초당 207토큰, 9B에서는 55토큰이다. Qwen 3.8 27B의 UD-Q2_K_XL 버전은 파일 크기 9.2GB, 약 20토큰/초와 64k 문맥으로 제시된다. 모두 프로젝트 작성자의 결과이며 이번 기사에서 직접 기기를 측정한 것은 아니다.

이 숫자들을 서로 다른 정밀도와 크기의 모델 사이에서 품질 점수처럼 비교해서는 안 된다. 더 작은 모델은 빨리 답해도 복잡한 코드 수정이나 한국어 업무 추론에서 다른 결과를 낼 수 있다. 강한 양자화는 저장 공간을 줄이지만 모든 과제의 정확도를 그대로 유지한다고 보장하지 않는다. 긴 문맥을 지원한다는 말도 최대 길이에서 같은 속도와 안정성이 나온다는 뜻은 아니다.

llama.cpp 공식 저장소는 다양한 하드웨어와 모델 형식을 연결하는 공통 기반을 제공한다. PS5LM의 의미도 새 언어모델 발명보다 이 실행 기반을 비전통적인 장치에 연결했다는 데 있다. GGUF 형식 설명을 보면 파일 형식 지원과 특정 모델의 완전한 실행 지원을 구분할 필요가 있음을 이해할 수 있다.

API 호환성과 서비스 동등성은 다르다

프로젝트는 OpenAI 형식의 /v1/chat/completions와 Anthropic 형식의 /v1/messages를 제공한다고 설명한다. 기존 클라이언트가 서버 주소를 바꿔 연결할 수 있다는 장점이 있지만, 이 인터페이스가 원래 공급자의 모델 성능·문맥 처리·도구 호출 동작까지 복제하는 것은 아니다. '호환 API'는 연결 비용을 줄이는 장치이지 결과 품질의 인증이 아니다.

표는 절대적인 가격 순위가 아니다. 이미 콘솔을 가진 개인과 여러 팀의 요청을 안정적으로 처리해야 하는 회사는 비용 구조가 다르다. 프로젝트의 코딩 도구 연동 문서도 검토할 수 있지만, 연결 성공 뒤에는 사용하는 모델의 실제 도구 호출과 결과 검증을 별도로 시험해야 한다.

결정 모델까지 확장된 로컬 실행

현재 README는 텍스트 생성 외에 선택·점수·예/아니오 형식의 응답을 내는 결정 모델 지원도 소개한다. 프로젝트는 이를 Ollaya와 같은 /v1/systemone 인터페이스로 설명한다. 긴 자연어 답변을 만드는 대신 정해진 질문에 구조화된 판단을 반환하는 방식이다. 지원 모델과 출력 형식은 저장소 기준이며 모든 GGUF 모델에 자동으로 적용되는 기능은 아니다.

이는 TypeSafe의 구조화된 판단 모델 분석과 연결된다. 고객 메시지 분류나 간단한 라우팅처럼 필요한 출력이 작다면 큰 대화 모델의 최대 성능보다 짧고 예측 가능한 판단 경로가 유리할 수 있다. 다만 확률을 반환한다는 사실만으로 한국어 데이터에서 그 확률이 잘 보정돼 있다는 결론을 내릴 수는 없다.

Atticus의 로컬 라우팅 사례처럼 작업의 일부만 로컬에서 해결하는 혼합 구조도 선택지다. 모든 요청을 가장 큰 모델에 보내는 대신 작은 모델로 충분한 범위를 먼저 측정하는 것이 비용 비교를 더 정확하게 만든다.

한국 개발자가 측정할 운영 비용

실험에서는 첫 토큰 지연, 생성 속도, 모델 적재 시간, 최대 문맥에서의 메모리 사용량을 따로 기록하는 편이 좋다. 단일 요청의 빠른 데모와 여러 기기가 동시에 접속한 결과는 다를 수 있다. 긴 코드 문서를 입력했을 때의 대기 시간과 재시작 후 복구 절차까지 보아야 실제 개발 도구로 쓸 수 있는지 판단할 수 있다.

로컬 실행은 외부 전송 경로를 줄일 수 있지만, 네트워크에 열린 서버의 접근 통제까지 자동으로 해결하지는 않는다. README는 요청과 답변이 TV에 표시되는 화면도 소개한다. 거실이나 사무실 공용 공간에서 민감한 코드를 시험한다면 화면 노출과 로그 보관까지 운영 범위에 포함해야 한다. 이는 프로젝트의 결함을 단정하는 것이 아니라 실제 배치 위치가 만드는 조건이다.

개인 AI의 기능 유지 전략과 마찬가지로 장애나 모델 교체 때 무엇이 남는지도 중요하다. '이미 가진 장비라 무료'라는 계산에서 전력·지원 환경 유지·모델 관리 시간을 빼면 재활용의 경제성을 과대평가할 수 있다.

자주 묻는 질문

일반 PS5에서 바로 사용할 수 있나?

저장소는 탈옥과 홈브루 실행 환경을 전제로 한다. Sony의 공식 기능이 아니다.

모든 GGUF 모델이 메모리에 들어가나?

아니다. 모델 가중치 외에 문맥과 실행용 메모리가 필요하며 크기와 지원 구조에 제한을 받는다.

공개 속도는 독립 벤치마크인가?

프로젝트 작성자가 제시한 PS5 Slim 측정치다. 한국어 과제와 동시 요청 성능은 따로 확인해야 한다.

API가 호환되면 원래 모델과 같은 답을 하나?

아니다. 요청 형식의 호환성과 모델의 품질·도구 사용 능력은 서로 다른 항목이다.

기업 서버를 대체할 수 있나?

일괄적으로 판단할 수 없다. 지원 환경, 가용성, 접근 통제와 유지보수 비용을 포함해 비교해야 한다.