Vomit, 에이전트 출력도 후처리 레이어가 된다

모델을 바꾸지 못하면 출력 레이어를 바꾼다

Vomit GitHub 저장소는 Claude의 장황한 토큰 출력을 로컬 LLM에 통과시켜 더 읽기 쉬운 영어로 바꾸는 도구다. README는 "Claude's token vomit"을 정리한다고 설명하고, 외부 의존성 없이 로컬에서 동작하며 telemetry가 없다고 밝힌다. 설치는 Go binary를 받고, vomit init으로 로컬 LLM 연결을 설정한 뒤, Claude output hook을 바꾸는 식이다.

저자의 블로그 글은 더 직접적이다. 그는 Claude Code가 일을 잘하지만 설명이 너무 장황하고, 토큰 비용까지 들여 말투 지시를 반복하는 상황에 지쳤다고 말한다. Vomit은 Claude Code 출력을 버퍼링하고 로컬 LLM, 예컨대 gpt-oss:20b에 보내 다시 쓴 뒤 MessageDisplay hook으로 원문 대신 보여준다.

에이전트 UX는 모델 API 밖에서 만들어진다

Vomit이 흥미로운 이유는 모델 성능 논쟁이 아니라 제품 계층 때문이다. 사용자는 Claude의 내부 학습이나 시스템 프롬프트를 바꿀 수 없다. 그러나 출력이 터미널에 표시되는 경로는 바꿀 수 있다. 이것은 에이전트 UX가 모델 API 안에만 있지 않다는 뜻이다. 로그, hook, session viewer, local summarizer, redactor가 모두 사용자 경험의 일부가 된다.

Claude Code 세션 메시징, 에이전트 협업의 작지만 큰 변화는 세션 간 협업을 다뤘고, 에이전트 승인 피로, 인간 방화벽은 새고 있다는 사람이 계속 확인해야 하는 부담을 말했다. Vomit은 다른 피로를 겨냥한다. 긴 답변을 읽고 핵심을 추리는 부담이다. 이는 사소해 보이지만 하루 종일 에이전트와 일하는 개발자에게는 생산성 문제다.

로컬 LLM의 자리가 분명해진다

Vomit은 Llama.app, Ollama, OpenAI API 호환 endpoint를 사용할 수 있다고 말한다. 추천 예시는 Llama.app으로 gpt-oss 20B 모델을 내려받는 흐름이다. Ollama 같은 로컬 런타임도 같은 범주다. 여기서 로컬 LLM은 프런티어 모델을 대체하지 않는다. 대신 프런티어 모델의 출력을 사용자의 취향과 조직 규칙에 맞게 정리한다.

이 패턴은 기업에 더 중요할 수 있다. 한국 개발팀은 영어 답변을 한국어 요약으로 바꾸거나, 사내 보고 형식으로 정리하거나, 민감 경로와 토큰을 마스킹하거나, 장황한 설명을 이슈 업데이트 문장으로 바꿀 수 있다. Muse Glimmer 30B, 로컬 에이전트의 기준선을 올리다처럼 로컬 모델 품질이 올라갈수록 이런 보조 레이어는 더 현실적이다.

단점은 의미 보존과 책임 소재다

README도 경고한다. 로컬 LLM은 Claude가 말하려는 내용만 볼 수 있고 실제 파일이나 행동에는 접근하지 않으므로 hallucination할 수 있다. 속도도 느리고, Mac에서 가볍게 테스트된 수준이며, 중요한 메시지를 놓칠 가능성이 있다. 그래서 원문을 볼 수 있는 AgentsView 같은 도구를 함께 언급한다.

이 점이 핵심이다. 에이전트 출력 후처리는 편하지만 감사 가능한 원문을 지우면 안 된다. CI 실패, 보안 경고, destructive operation 결과 같은 메시지는 원문과 재작성본을 나란히 남겨야 한다. 특히 기업 환경에서는 "후처리된 문장"이 의사결정 근거가 되면 책임 소재가 흐려질 수 있다.

자주 묻는 질문

Q1: Vomit은 Claude를 더 똑똑하게 만드나요?

A: 아니다. Claude의 행동이나 판단을 바꾸는 것이 아니라 표시되는 설명을 로컬 LLM으로 다시 쓰는 도구다.

Q2: 왜 로컬 LLM을 쓰나요?

A: 출력 텍스트를 외부 서비스에 다시 보내지 않고, 지연시간과 프라이버시를 사용자가 통제하기 위해서다.

Q3: 기업에서도 쓸 수 있나요?

A: 원문 보존, 보안 검토, 로그 정책이 있으면 가능성이 있다. 다만 중요한 운영 메시지를 재작성본만 보고 판단하면 위험하다.

Q4: 한국어 후처리도 가능할까요?

A: 가능하다. 팀 표준에 맞게 한국어 요약, 이슈 업데이트, 릴리스 노트 문장으로 바꾸는 레이어를 만들 수 있다.

Q5: 가장 큰 시장 신호는 무엇인가요?

A: 에이전트 제품 경쟁이 모델 선택을 넘어 출력 관측, 재작성, 감사, 개인화 레이어로 확장된다는 점이다.