Liquid AI 发布 LFM3:6 款约 2B 参数的开放权重模型,覆盖文本、视觉、音频、全模态与决策
Liquid AI 10 月 27 日发布新一代基础模型 LFM3,采用卷积、滑动窗口注意力与全局注意力组成的「三混合」架构,预训练 22T token。首批 6 款模型都从 LFM3-1.7B-Base 分支,均约 2B 参数,权重已上架 Hugging Face(LFM Open License v1.0)。官方称文本模型 LFM3-1.7B 4-bit 约占 1GB 内存、支持 256K 上下文,在多项智能体基准上超过体量数倍的模型。
核心要点速览
- 6 款模型:LFM3-1.7B(文本)、VL-2B(视觉/视频)、Audio-2B、Omni-2B,以及决策模型 d1-2B 与 d1-Omni-2B
- 架构:24 层中 13 层门控短卷积、5 层 256-token 滑窗注意力、6 层全局注意力;预训练 22T token
- 官方口径:LFM3-1.7B 在 SWE-bench Verified(OpenCode)得 43.40,Qwen3.5-4B 为 41.20、Qwen3.5-9B 为 51.20
- 官方口径:WebArena-Verified 38.42、AutomationBench 41.29,均高于 Qwen3.5-9B(28.94 / 15.10)
- 128K 上下文 KV cache 约 1.6GB,单卡 B300 + SGLang 每天可产出约 36 亿 token(官方口径)

-oOdUn61bDRSykk4H951SoDOHzqoOe1.png)