CarWatch, 자동차 AI는 클라우드보다 현장성이 먼저다

자동차는 클라우드가 끊기는 장소다

CarWatch는 Raspberry Pi 5를 자동차에 싣고, Qwen 계열 35B 모델을 로컬에서 돌려 자동차를 채팅방 에이전트로 만드는 프로젝트다. README는 Pi 5 16GB와 약 300유로 장비에서 14.3GB 양자화 모델을 실행하고, 생성 3.5 tok/s와 프롬프트 25 tok/s 이상을 측정했다고 설명한다. 더 흥미로운 점은 속도가 아니라 제품 원칙이다. 차고, 터널, 지방 도로처럼 통신이 약한 환경에서도 작동해야 하므로 핵심 기능은 로컬이어야 한다.

이 프로젝트는 Raspberry Pi 5, Qwen, llama.cpp, whisper.cpp 같은 범용 오픈소스 조각을 자동차라는 물리 환경에 붙인다. 에이전트는 차의 매뉴얼 745쪽을 로컬 RAG로 읽고, 온도와 팬, 메모리, 네트워크, 로드된 모델 상태를 실시간으로 확인한다. 모르면 모른다고 말하도록 설계했다는 점도 중요하다.

제품은 모델보다 실패 모드에서 갈린다

자동차 AI를 떠올리면 대부분 음성비서나 자율주행을 생각한다. CarWatch는 더 작고 현실적인 지점에서 출발한다. 출발, 도착, 주행 요약, 충격 감지 영상, OBD 상태, 대시보드 접근성 같은 주변 업무다. 이 업무들은 거대한 모델보다 신뢰 가능한 상태 감지와 지연 없는 접근이 중요하다. 네트워크가 없으면 대답이 멈추는 비서는 자동차 안에서 제품이 되기 어렵다.

로컬 LLM 품질, 모델보다 실행 스택이 흔든다는 로컬 AI 경험이 모델 파일보다 실행 스택에 좌우된다고 분석했다. 집 안의 AI 서버, 로컬 추론 경제학의 민낯는 전력과 유지보수를 비용으로 봤다. Needle 2 14MB, 에이전트 모델의 최소 단위를 묻다는 작은 모델과 엣지 배치의 의미를 다뤘다. CarWatch는 이 논의를 자동차라는 가장 거친 현장으로 옮긴다.

로컬 에이전트의 경쟁력은 정직한 범위다

README에서 눈에 띄는 표현은 "감지할 수 없는 것은 말하지 않는다"는 정책이다. AI 제품은 종종 모르는 상태를 자연스러운 문장으로 덮는다. 자동차 환경에서는 이것이 위험하다. 엔진 상태를 읽지 못했는데 정상이라고 말하거나, 네트워크가 끊겼는데 업데이트됐다고 말하면 사용자는 잘못된 결정을 내린다. 로컬 에이전트는 작은 사실을 정확히 말하는 쪽이 큰 모델의 일반 지식보다 유리할 때가 많다.

이 점은 한국 자동차, 모빌리티, 보험, 정비 스타트업에도 중요하다. 차량 데이터는 규격, 제조사, 연식, 어댑터, 통신 상태에 따라 흔들린다. OBD, dashcam, 스마트폰 핫스팟, 차량 매뉴얼을 묶는 제품은 멋진 데모보다 예외 처리와 고지 방식이 승부다. 사용자가 "지금 확인한 값"과 "문서에서 찾은 값"과 "추정한 값"을 구분할 수 있어야 한다.

자동차 AI는 개인 데이터 경계도 다르다

자동차는 위치, 습관, 가족 동선, 사고 영상, 음성 기록이 모이는 장소다. 그래서 로컬 처리의 장점은 지연 시간만이 아니다. 민감한 데이터가 클라우드로 이동하지 않는다는 점도 제품 가치가 된다. 물론 CarWatch도 방 채팅, 원격 터널, 업데이트에는 온라인 연결을 쓴다. 중요한 것은 로컬과 온라인의 경계를 명시한다는 점이다.

Google HEIR, 암호화 추론을 제품 옵션으로 끌어내리다는 프라이버시가 추상 원칙이 아니라 제품 옵션이 되는 흐름을 봤다. 자동차 AI도 같다. 완전 오프라인을 주장하기보다 어떤 데이터가 로컬에 남고, 어떤 데이터가 큐에 쌓이며, 어떤 경우에만 원격으로 나가는지 설명해야 한다. OWASP LLM Top 10이 말하는 에이전트 권한 문제도 차량 환경에서는 물리 세계와 바로 연결된다.

한국 시장의 빈틈은 애프터마켓 에이전트다

완성차 회사의 내장 AI는 폐쇄적이고 출시 주기가 길다. 반대로 스마트폰 앱은 차량 내부 센서와 깊게 연결되기 어렵다. CarWatch 같은 애프터마켓 로컬 에이전트는 그 사이를 노린다. 모든 운전자에게 필요한 대중 제품이 되기는 어렵지만, 정비 애호가, 법인 차량, 특수 차량, 연구용 플릿에는 의미가 있다.

핵심은 모델 크기가 아니라 설치와 유지보수다. SD 카드에 매뉴얼과 모델을 넣고, systemd로 부팅 시 자동 실행하며, 업데이트와 터널을 구성하는 작업은 소비자 제품으로는 부담이 크다. 하지만 기업용 플릿에서는 이 정도 운영 복잡성을 감당할 수 있다. 한국 기업이 배울 점은 "차 안에 챗봇을 넣자"가 아니라 "연결이 끊겨도 작동하는 에이전트 운영 패턴을 만들자"다.

자주 묻는 질문

Q1: Raspberry Pi 5로 35B 모델이 실용적인가요?

A: 범용 대화에는 느릴 수 있지만, 매뉴얼 질의와 상태 보고처럼 짧고 근거가 좁은 업무에는 의미가 있다. README의 측정치는 특정 양자화와 설정 기준이다.

Q2: 자동차 AI는 안전 기능으로 써도 되나요?

A: 신중해야 한다. CarWatch도 검증된 값과 미검증 상태를 구분한다. 운전 제어보다 보조 정보와 기록 자동화가 현실적이다.

Q3: 클라우드 모델을 쓰면 더 좋지 않나요?

A: 온라인일 때는 더 큰 모델을 쓸 수 있다. 다만 자동차는 통신 단절이 잦아 기본 기능은 로컬에 남기는 편이 제품 신뢰에 유리하다.

Q4: 한국 차량에도 바로 적용될까요?

A: 차량 통신 규격, 어댑터, dashcam API가 달라 추가 작업이 필요하다. 원칙은 적용되지만 통합은 차종별 검증이 필요하다.

Q5: 가장 큰 제품 리스크는 무엇인가요?

A: 설치와 유지보수다. 모델 실행보다 전원, 발열, 네트워크 fallback, 업데이트, 사용자 고지가 더 오래 걸릴 가능성이 크다.