AI 编程实时动态与要闻

llama.cpp 原生 Decision Models:/v1/systemone 一次前向出概率;支持 Julia-1/Laya/Kev-4B/lev/OpenJev

ggml-org 于 2026-10-02 宣布 llama.cpp server 合并 PR #29818,新增 /v1/systemone:对状态(文本/JSON/截图)与 typed 问题做单次前向打分,兼容 TypeSafe Jev / System One 客户端。首批模型:Julia-1(144M)、Laya(421M)、Kev-4B、lev、OpenJev(27B+视觉)。Cloudflare Clef 列为后续。

llama.cpp 原生 Decision Models:/v1/systemone 一次前向出概率;支持 Julia-1/Laya/Kev-4B/lev/OpenJev

核心要点速览

  • 官方博文:New in llama.cpp: Decision Models(2026-10-02);实现:PR #29818 合并于 2026-10-02T09:56Z(+2139/−15)
  • API:POST /v1/systemone;问题类型 choice / score / noul;响应含 probabilities + confidence;output_tokens: 0
  • 首批 GGUF:ggml-org/{Julia-1,Laya,Kev-4B,lev,OpenJev}-GGUF;RTX PRO 6000 官方中位时延约 3–43 ms/问
  • 与已入库 Ollama 0.35 / Cloudflare Clef 不同栈:本地 llama.cpp 推理运行时原生 System One;博文写明 Clef 将跟进
  • 开箱:llama serve -hf ggml-org/Kev-4B-GGUF 后 curl localhost:8080/v1/systemone;router 模式可按请求选模型
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Julia 1⚡ laya⚡ Kev 4b⚡ lev⚡ openjev🌐 ggml-org🌐 huggingface
C
Comet@comet-ml·
👀54
🔥91

Comet Opik 2.2.84:在线评测规则原生接 Jev(OpenRouter Decisions API);队列自动化与溯源

Comet Opik 于 2026-09-29 发布 2.2.84:在线 LLM-as-a-Judge 规则可端到端调用 TypeSafe Jev(经 OpenRouter POST /api/alpha/decisions,而非 chat/completions)。布尔指标各成一道 yes/no 题,单次调用批答;概率 ≥0.5 记 1,原因字段展示 Probability: 0.93。后端新增 OpenRouterDecisionsClient(工作区 OpenRouter key + 429/5xx 重试),模型 ~typesafe/jev-latest / typesafe/jev-1.13。同步支持 Annotation Queue 自动化配置与条目 provenance;相对 2.2.83 约 8 commits / 104 files。

Comet Opik 2.2.84:在线评测规则原生接 Jev(OpenRouter Decisions API);队列自动化与溯源

核心要点速览

  • 发版:2.2.84(2026-09-29);对比 2.2.83...2.2.84 ≈8 commits / 104 files
  • 核心:PR #8540 在线评测走 OpenRouter Decisions API 调 Jev;chat/completions 会被拒
  • 计分:每条 Boolean 规则→一道 yes/no;概率 ≥0.5 → 分值 1,reason 带 Probability
  • 模型:~typesafe/jev-latest、typesafe/jev-1.13(不进常规 chat 模型 YAML 同步列表)
  • 体验:Annotation Queue 可配自动化并展示条目 provenance;另有 trace stats 读窗口与 thread_id 注册修复
阅读全文
关联模型 / 智能体 / 厂商:

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

Ollama 于 2026-09-28 发布 v0.35.0(GitHub 标记 prerelease):新增基于 TypeSafe Jev 的 Decision Models,HTTP 入口为 /v1/systemone。模型不再吐自由文本,而是对 choice/noul/score 三类问题返回选项、概率与置信度,覆盖工单分流、模型路由与内容分类。首批模型为 Bespoke Labs 的 Nimble 与 Together AI 的 Tev1;相对 v0.34.4 约 7 commits / 66 files,并修复 Settings 阻塞、macOS 更新菜单与 MLX 下载挂起。

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

核心要点速览

  • 发版:v0.35.0(2026-09-28,prerelease);对比 v0.34.4...v0.35.0 ≈7 commits / 66 files
  • 新 API:POST /v1/systemone,基于 TypeSafe Jev;问题类型 choice(带概率)、noul(条件为真概率)、score(有序准则打分)
  • 首批决策模型:Nimble、Tev1;ollama pull nimble 后即可本地调用
  • 示例响应含 probabilities 与 confidence(如 bug≈0.978 / confidence≈0.89),usage.input_tokens/output_tokens 可观测
  • 体验修复:Settings 不再等模型发现;macOS 更新菜单/图标;MLX 下载挂起;废弃参数 typical_p 改为告警而非失败
阅读全文

GPT Researcher 0.16/v3.7.0:默认用 Jev 按「有用性」筛上下文,相关度较 embeddings 高 59%

GPT Researcher 于 2026-09-26 发布 v3.7.0(PyPI gpt-researcher 0.16.x)。核心变化:上下文过滤器默认改走 TypeSafe Jev,按「对子查询有多有用」打分留片断,而非余弦相似度;官方在 28 项研究任务、相同源材料上复现评测称 Jev 保留段落相关度 73% 对 embeddings 的 46%(约高 59%)。无 TYPESAFE_API_KEY 时回退本地 BM25 关键词排序,标准研究路径不再强制嵌入模型。另要求 Python 3.12+,并支持 retriever 插件入口点。

GPT Researcher 0.16/v3.7.0:默认用 Jev 按「有用性」筛上下文,相关度较 embeddings 高 59%

核心要点速览

  • 发版:v3.7.0 / PyPI gpt-researcher==0.16.1;pip install -U gpt-researcher
  • Benchmark(官方 28 任务同源复现):Jev 保留段落相关度 73% vs embeddings 46%(约 +59%),成本相当;见 Context Filter 文档
  • 默认 CONTEXT_FILTER=auto:有 TYPESAFE_API_KEY 走 Jev,否则 BM25;Jev 失败自动回退 keyword;要旧行为设 CONTEXT_FILTER=embeddings
  • 管线:每页截断 50k 字符,切 1k/100 overlap,Jev/embeddings 每子查询最多留 10 片,keyword 最多 25;报告对话复用同一 select_context()
  • 破坏性:需 Python 3.12+;retriever 可用 gpt_researcher.retrievers entry point 独立打包
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容
C
Confident AI@confident-ai·
👀74
🔥90

DeepEval 4.2:LLM-as-judge 判决点改接 Jev,约 $0.042/百万 input、多数查询 ~100ms

Confident AI 在 deepeval 4.2.x(发行说明锚定 4.2.2/4.2.4,PyPI 现为 4.2.6)为评测引入 TypeSafe Jev:语言生成仍由评测 LLM 负责,封闭判决(是/否、选择题、分数档)交给 System One,返回带校准概率的类型化决策。官方称决策阶段约 $0.042/百万 input、无 output 计费,多数查询约 100ms,并可批量合并独立问题。Faithfulness/GEval/DAGMetric 与 Classifiers 已接线;实验模式 deepeval set-mode experimental + typesafe-sdk 开启,缺密钥会显式失败而非静默回退。

DeepEval 4.2:LLM-as-judge 判决点改接 Jev,约 $0.042/百万 input、多数查询 ~100ms

核心要点速览

  • 发版说明:python-v4.2.4;博客 Introducing Jev for Evals;PyPI 现网 deepeval==4.2.6
  • 成本/时延(官方):决策段约 $0.042 / 百万 input tokens、无 output 费;多数 Jev 查询约 ~100 ms,独立问题可批进单请求
  • 分工:Faithfulness 等 QAG 仍由 LLM 抽 claims,每 claim 的 Noul/P(yes) 交 Jev;GEval 步骤生成留 LLM,严格/量规分数走 Jev;DAGMetric 二元/多选节点同理
  • Classifiers:封闭标签集上的类别化 LLM-as-judge(如 RefusalClassifier),见 Classifiers 文档
  • 开启:deepeval set-mode experimental + pip install typesafe-sdk + TYPESAFE_API_KEY;实验模式缺依赖会响亮失败,不静默回退 LLM 判决
阅读全文
关联模型 / 智能体 / 厂商:

LiteLLM 1.102.1:稳定线回传 Claude Code safeguards,并把 TypeSafe Jev 路由/护栏打进 1.102.x

BerriAI 于 2026-09-23 发布 LiteLLM v1.102.1(PyPI litellm 1.102.1)。相对 1.102.0,本版把 Anthropic/Bedrock/Vertex 的 safeguards→safeguard_results 透传修回稳定线,使经网关的 Claude Code Auto mode 能显示 Auto mode server: Enabled;同时将 TypeSafe Jev 的七项变更(passthrough、复杂度路由、relevance compaction 护栏、auto-router 分类器、OpenRouter jev-1.13 定价等)从 1.103 RC 回移到 stable/1.102.x。Docker 镜像继续提供 cosign 验签说明。

LiteLLM 1.102.1:稳定线回传 Claude Code safeguards,并把 TypeSafe Jev 路由/护栏打进 1.102.x

核心要点速览

  • 发版:v1.102.1 / PyPI 1.102.1
  • Claude Code:网关透传 safeguards,响应带回 safeguard_results(#42538),Auto mode 不再被迫改走计费的客户端分类器
  • TypeSafe Jev:7 个 PR 回移到稳定线(passthrough / complexity router / relevance compaction / auto-router / OpenRouter jev-1.13 定价等,#42595)
  • 部署:pip install litellm==1.102.1;镜像可用 cosign 对 ghcr.io/berriai/litellm:v1.102.1 验签
  • 文档:Proxy Quick Start / Anthropic provider
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Claude⚡ TypeSafe Jev⚡ jev-1.13🤖 Claude Code🌐 berriai🌐 Anthropic🌐 openrouter

AG2 1.1.0:接入 TypeSafe Jev 决策专用 Agent,并堵住 reserved context 跨线提权

AG2(原 AutoGen)于 2026-09-24 发布 v1.1.0:以 TypeSafeConfig + response_schema 把 Jev 做成只做决策、不调工具的 Agent;同步在 A2A/AG-UI/A2UI/NLIP 双向剥离 ag:/a2a: 保留键,堵住远程预批准门控工具的安全洞。

AG2 1.1.0:接入 TypeSafe Jev 决策专用 Agent,并堵住 reserved context 跨线提权

核心要点速览

  • 决策 Agent:Agent(..., config=TypeSafeConfig(), response_schema=Department),bool/Enum/IntEnum 即问题形态;概率与置信度落在 ModelMessage.metadata(v1.1.0)
  • 约束:Jev 拒绝工具调用、不支持 streaming;非法 schema 在发请求前本地 raise
  • 安装:pip install "ag2[typesafe]";对照 TypeSafe Jev 介绍 与 docs.ag2.ai
  • 安全:ConversationContext.variables 中 ag:/a2a: 保留前缀在 A2A、AG-UI、A2UI、NLIP 双向剥离,防远程写保留键预批准门控工具
  • 其它:MessageEnqueued 事件、MCP 必填参数校验与规范 JSON-RPC 错误码、并发下事件描述符 retarget 修复
阅读全文
关联模型 / 智能体 / 厂商:

OpenClaw 2026.9.6:托管更新与重启恢复、完整 30 天 Usage,并接入 Opus 5.5 / GPT-6 Sol·Luna / Grok 4.7

OpenClaw 于 2026-09-23 发布 v2026.9.6(macOS 构建于 09-24 因启动崩溃 #156861 重签修复):托管更新结果更清晰、重启后可从已保存进度恢复未完成会话,Usage 覆盖完整 30 天窗口;新增 GitHub reader、远程工作区 Files/Memory/Skills、会议笔记实时更新,以及 TypeSafe Jev 决策模型与 Claude Opus 5.5、GPT-6 Sol/Luna、Grok 4.7。规模:2,614 PRs、178 直接提交、约 350 位贡献者。

OpenClaw 2026.9.6:托管更新与重启恢复、完整 30 天 Usage,并接入 Opus 5.5 / GPT-6 Sol·Luna / Grok 4.7

核心要点速览

  • 规模可核对:官方发布说明 写明 2,614 PRs / 178 commits / ~350 contributors
  • 产品主线:托管更新结果可恢复 + 重启后从已保存进度续跑未完成会话;Usage 默认打开最近 30 个日历日
  • 工作区增强:GitHub reader 可读公开讨论与 diff;远程工作区补齐 Files / Memory / Skills;会议笔记随采集持续更新
  • 模型:可选 Decision Models(TypeSafe Jev + 本地);聊天侧新增 Claude Opus 5.5、GPT-6 Sol/Luna、Grok 4.7
  • 安装:npm [email protected];macOS 若遇首版无法启动请重装修复后的 DMG(#156881)
阅读全文

jev-mcp 开源:把 TypeSafe Jev 九项裁决工具接到 Cursor / Codex

@sora19ai 介绍 burnigtm/jev-mcp:本地 stdio MCP,把 TypeSafe Jev 的结构化裁决接到 Cursor、Codex 等客户端,主机仍负责改文件与跑命令。提供 jev_step、jev_review、jev_verify、jev_rank 等九项工具,覆盖补丁评审、主张核验与候选排序;需 TypeSafe API Key,另有 mock 演示模式。MIT 许可,抓取时约 13 星。

核心要点速览

  • 本地 MCP 把 Jev 裁决接到 Cursor / Codex,主机仍执行工具与写文件。
  • 九项工具覆盖步骤路由、补丁评审、主张核验、筛选与排序等。
  • 需 TypeSafe API Key;burnigtm/jev-mcp,MIT,抓取时约 13 星。
阅读全文

Auto-Guard 开源:用 Jev 在编码智能体工具调用前做允许/升级/拦截裁决

@roshanchandna 介绍 rchandnaWUSTL/auto-guard:在编码智能体执行工具调用前,把拟议调用交给 TypeSafe Jev 决策模型,返回允许、升级请求人工批准(附更大模型一行理由)或拦截。安装为 pip install agent-autoguard 后 autoguard install,默认可挂 Claude Code,并提供 Cursor、Codex、Copilot、Gemini、Windsurf 适配;作者注明单次检查约 0.4 秒、成本约 $0.000025。

核心要点速览

  • 工具调用前门控:Jev 返回允许 / 升级人工批准 / 拦截三类裁决。
  • pip install agent-autoguard && autoguard install 即可挂上 Claude Code;另有 Cursor、Codex 等适配。
  • 作者称单次约 0.4 秒、约 $0.000025;仓库 rchandnaWUSTL/auto-guard 已公开代码与已知限制。
阅读全文
AD赞助内容

开源 Jev Sentinel:用 TypeSafe Jev 审核 Pi 编码智能体的读写与发言

@harsh_w98 发布面向 Pi 编码智能体的开源扩展 harshwasan/pi-jev-sentinel:用 TypeSafe Jev 检查智能体动作、读取与输出;.env 不对 Jev 开放,回显中的密钥也会被清洗(仍提示经 env/grep 等其他路径可能泄漏),并提供代码与测试沙箱。

核心要点速览

  • Pi 编码智能体扩展:Jev 审核动作、读取与发言。
  • .env 对 Jev 屏蔽并清洗回显密钥;另有代码/测试沙箱。
  • 开源 harshwasan/pi-jev-sentinel,对接 TypeSafe Jev。
阅读全文
关联模型 / 智能体 / 厂商:

开源 mcp-typesafe:用 Rust MCP 把 TypeSafe Jev 决策原语接到任意智能体

社区发布非官方 mcp-typesafe(github.com/sf-stav/mcp_typesafe):Rust 编写的 MCP 服务器,把 TypeSafe System One / Jev 的结构化判断(choice/score 等)以及批量过滤、排序、分类、两阶段择优与校准抽样等高级工具暴露给任意 MCP 客户端。面向「读几百条结果烧上下文」与「文本自报置信度不可阈值」的痛点,多数调用约 100ms;支持 stdio 与 SSE,需 TypeSafe API Key,单静态二进制。

核心要点速览

  • Rust MCP 把 Jev/System One 结构化判断接到任意智能体(非官方)。
  • 含批量过滤/排序/分类/择优与稳定性抽样,多数调用约 100ms。
  • stdio + SSE;需 TypeSafe API Key;单静态二进制。
阅读全文
关联模型 / 智能体 / 厂商:

GitHub Next 开源 LocalJev:用 oMLX 在本地跑兼容 Jev 的决策 API

GitHub Next 开源 LocalJev(github.com/githubnext/localjev):在团队尚未全员拿到 TypeSafe Jev 访问权时,用一上午搭出「穷人版 Jev」。它在 Bun/TypeScript 上提供兼容的 POST /v1/systemone API,默认经 oMLX 调用本地 DiffusionGemma 等模型,并评测了 DiffusionGemma、Qwen MoE、Gemma 4 MoE 与 Gemma 4 e4b/e2b;评测报告在仓库内。LocalJev 服务器可对接常规 Jev API 封装库,但概率来自模型自报而非 logit 直读,需自行校准。

核心要点速览

  • 开源 LocalJev:本地兼容 Jev 的 POST /v1/systemone 决策 API(Bun/TypeScript)。
  • 默认经 oMLX 跑 DiffusionGemma 等本地模型,并附多模型评测报告。
  • 可对接常规 Jev 客户端库;概率为模型自报而非 logit 直读,需自行校准。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ diffusiongemma⚡ qwen⚡ Gemma 4🌐 github

开发者把 DeepSeek V4 Flash 判断能力蒸馏到 4B:DGX Spark 训练 26 小时,单次约 22ms

开发者 Taro L. Saito(@taroleo)参照 TypeSafe Jev 的思路,放弃完整 text/json 生成、只保留判断头,把约 157GB 权重的 DeepSeek V4 Flash 决策能力在 DGX Spark 上蒸馏约 26 小时迁入 4B 模型。结果体积约缩为教师的 1/20,并在即时回答模式下超过教师,单次判断约 22ms,展示纯本地 LLM 做高速决策引擎的可行性。

核心要点速览

  • 以 Jev 式「只做判断、不做长文本生成」把 DeepSeek V4 Flash 决策蒸馏到 4B。
  • DGX Spark 上约 26 小时完成蒸馏;体积约缩为教师 1/20,单次判断约 22ms。
  • 作者称在即时回答模式下已超过教师,适合本地高速分流/门控场景。
阅读全文
关联模型 / 智能体 / 厂商:

Vercel:TypeSafe Jev 成 AI Gateway 史上采纳最快模型,首日覆盖约 13% 付费团队

Vercel 官方发文称 TypeSafe Jev 登陆 AI Gateway 后 24 小时内成为史上采纳最快的模型:首日触达近 13% 付费团队,约为 GPT-5.6 系列的 2 倍、Fable 5.1 的 6 倍以上;约 18 小时即突破 10% 团队渗透,而同期其他新模型全日仍低于 7%。博文指出下一步关注早期热度能否持续。

核心要点速览

  • 官方数据:Jev 首日覆盖近 13% AI Gateway 付费团队,创历史最快采纳。
  • 对比:约为 GPT-5.6 系列 2 倍、Fable 5.1 逾 6 倍;约 18 小时达 10% 团队。
  • 详情见 vercel.com/blog/ai-gateway-jev-model-launch;后续关注热度能否延续。
阅读全文
关联模型 / 智能体 / 厂商: