LightOn 开源 ColGrep-Agent-2B:本地 2B 代码检索 Agent 接入 Claude Code,API token 降约 34%、成本约 40%
LightOn AI 于 2026-10-12 发布 ColGrep-Agent-2B(基于 MiniCPM5-2B,Apache-2.0):本地 2B 代码定位 Agent,用 ColGrep 多向量语义检索 + 只读终端在仓库内搜索,再把文件路径与行范围交还给前沿编程 Agent。在 13 个未见仓、52 道代码搜索题、624 次会话中,接入 Claude Code(Sonnet 5.5)相对纯 grep 平均少用约 34.3% API token、缓存感知成本约降 40%;准确率 80.8% vs grep 83.3%(差异无统计显著)。SWE-bench Lite 行级 F1 达 19.92,高于同 harness 下多款 10×+ 参数量模型。提供 brew/cargo/GGUF 一键安装与 Claude Code / Codex / OpenCode 钩子。

核心要点速览
- 官方:HF Blog — ColGrep-Agent(2026-10-12);模型 lightonai/colgrep-agent-2B;仓库 lightonai/next-plaid
- 实测(厂商口径,Claude Code + Sonnet 5.5,52 题×3 跑):相对 grep,token −34.3%(95% CI 28–40),缓存感知成本约 −40%(7.3¢→4.4¢/题);正确率 80.8% vs 83.3%
- 定位评测:SWE-bench Lite 文件 F1 76.18 / 行 F1 19.92;Multi-SWE-bench Flash 文件 F1 62.57 / 行 F1 15.93(五种子均值)
- 训练:MiniCPM5-2B → SFT(Qwen3.5-27B 教师轨迹)→ GRPO 500 step;工具仅 colgrep / 只读 terminal / finish;10 轮预算
- 开箱:
brew install lightonai/tap/colgrep && colgrep --install-agent;默认 GGUF ~2.5GB;colgrep --install-claude-code|codex|opencode