TypeSafe AI 宣布 Jev 已在 Vercel AI Gateway 上线。Jev 是面向软件工作流的概率决策模型：输入 state，并行评估声明的问题，直接返回 typed Choice、Score、Boolean 及概率，减少「先生成文本再解析校验」。TypeSafe 称在其工作流评测上相对 LLM 最高约 193.6× 更快、444.6× 更便宜。典型用途包括 Agent 循环选工具/子智能体、继续/重试/询问/停止、行动前风险打分与输出护栏。AI SDK 7（≥7.0.105）经 experimental evaluate API 调用 model typesafe-ai/jev；支持按请求开启 Zero Data Retention / No Training，并计入 Gateway 日志与预算。

核心要点速览 (Key Takeaways)

  • ✓Jev 已在 Vercel AI Gateway 上线：并行评估问题并返回 typed Choice/Score/Boolean + 概率
  • ✓TypeSafe 称工作流评测相对 LLM 最高约 193.6× 更快、444.6× 更便宜
  • ✓AI SDK 7 evaluate API 调用 typesafe-ai/jev，支持按请求 ZDR/No Training 并计入 Gateway 预算
ADSponsored