Liquid 8B-A1B, 온디바이스 에이전트의 비용 곡선
Liquid AI의 LFM2.5-8B-A1B는 38T 토큰, 128K 컨텍스트, 도구 호출을 내세운 온디바이스 MoE 모델이다. 로컬 에이전트 경쟁을 분석한다.
Liquid의 새 모델은 로컬 모델이 단순 오프라인 챗봇을 넘어 도구 호출 에이전트가 되려는 흐름을 보여준다. 기업은 가장 큰 모델을 어디에 쓸지보다 작은 모델을 어디까지 믿고 배치할지를 정해야 한다.
local-ai 관련 AI 뉴스와 분석 기사를 모아놓은 토픽 페이지입니다.
Liquid AI의 LFM2.5-8B-A1B는 38T 토큰, 128K 컨텍스트, 도구 호출을 내세운 온디바이스 MoE 모델이다. 로컬 에이전트 경쟁을 분석한다.
Liquid의 새 모델은 로컬 모델이 단순 오프라인 챗봇을 넘어 도구 호출 에이전트가 되려는 흐름을 보여준다. 기업은 가장 큰 모델을 어디에 쓸지보다 작은 모델을 어디까지 믿고 배치할지를 정해야 한다.