deepset 于 2026-09-24 发布 Haystack v3.2.0(PyPI haystack-ai 3.2.0):实验性 SummarizationCompactor 配合 CompactionHook,按四档策略把历史轮次/步骤压缩到目标 token 预算(示例 context_window=400_000、compact_at=0.7、compact_to=0.4,min_keep_steps 保留最新步骤);TokenBudgetHook 在耗尽预算后以 exit_reason=token_budget_exceeded 干净停机;通用 stop_run 状态键支持自定义停机原因;Pipeline 新增 add_components/connect_many 流畅构建。另含多处安全加固与序列化破坏性变更。
核心要点速览 (Key Takeaways)
- ✓发版:v3.2.0 = PyPI haystack-ai 3.2.0
- ✓上下文:实验性 SummarizationCompactor + CompactionHook;四档压缩,示例 `context_window=400_000`、`compact_at=0.7`、`compact_to=0.4`,`min_keep_steps` 保最新步骤
- ✓预算:实验性 TokenBudgetHook(如 `max_total_tokens=100_000`)耗尽后 `exit_reason="token_budget_exceeded"`,可 `add_final_message=True`
- ✓控制:任意 hook 可 `state.set("stop_run", reason)` 干净结束,无需抛异常;示例限制某 tool 调用次数
- ✓DX/安全:`Pipeline.add_components()` / `connect_many()` 可链式;Jinja custom_filters 安全加载需 `unsafe=True`;Toolset `+` 运算符已移除
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
长程 Agent 的上下文会在多轮工具调用后迅速膨胀:硬截断会丢掉目标与未完成事项,无限滚动则撞上下文窗口与账单上限。生产侧还需要「预算用尽就干净退出」而不是抛异常中断,以及更短的 Pipeline 组装代码。Haystack v3.2.0(2026-09-24,PyPI haystack-ai 3.2.0)把上下文压缩、token 预算与流畅构建一次补齐。
架构亮点与底层机制
实验性 SummarizationCompactor 挂在 CompactionHook 上,按 historical_turns→historical_summaries→current_task_steps→current_task_summaries 四级,尽量少总结地压到目标预算;min_keep_steps 保证最新步骤原文保留,摘要可用小模型生成。示例配置:context_window=400_000、compact_at=0.7、compact_to=0.4。实验性 TokenBudgetHook 在下次 LLM 调用前检查累计 token,耗尽则以 exit_reason="token_budget_exceeded" 停机。任意 hook 可 state.set("stop_run", reason) 自定义干净退出。Pipeline.add_components() 与 connect_many() 支持链式构建。
权威 Benchmark 与实测跑分对比
发行说明未给出独立延迟或任务成功率公开榜。可核对的定量配置来自文档示例:400_000 上下文窗口、0.7→0.4 压缩阈值,以及 TokenBudget 示例 100_000 tokens。破坏性变更包括:含 Jinja custom_filters 的序列化需 unsafe=True 加载;Toolset + 运算符移除,改为传 list。
开发者实战落地与开箱指南
执行 pip install -U haystack-ai==3.2.0。在 Agent 上挂 CompactionHook(SummarizationCompactor)与 TokenBudgetHook;需要按某工具调用次数停机时设置 stop_run。加载含 custom_filters 的 Pipeline 请显式传 unsafe=True;环境变量 HAYSTACK_UNSAFE_DESERIALIZATION 仅用于全信任部署。文档见 SummarizationCompactor 与 TokenBudgetHook。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察