AI 编程实时动态与要闻

OpenBMB 开源 MiniCPM-OCR 套件:1.3B 解析模型 Real5-OmniDocBench 93.68 分,另配 2B「判官」模型自动找出识别错误

面壁智能旗下 OpenBMB 10 月 27 日开源 MiniCPM-OCR 套件,含两款模型:1.3B 参数的文档解析模型 MiniCPM-OCR 1.0(Real5-OmniDocBench 93.68、OCRBench v2 54.7,官方口径),以及 2B 参数的 OCR 质量判定模型 MiniCPM-OCR Jev,可给任意 OCR 解析结果按区域打 0–1 分、标出需人工复核的内容。代码和权重均为 Apache 2.0,首发即支持 vLLM、SGLang、llama.cpp、Ollama 及多家芯片平台。

OpenBMB 开源 MiniCPM-OCR 套件:1.3B 解析模型 Real5-OmniDocBench 93.68 分,另配 2B「判官」模型自动找出识别错误

核心要点速览

  • 解析模型 MiniCPM-OCR 1.0 仅 1.3B 参数:Real5-OmniDocBench 93.68、OCRBench v2 54.7(官方口径,均称 SOTA)
  • 判定模型 MiniCPM-OCR Jev 2B 参数:JevOCRBench AUROC 93.6,高于 JEV-35B-A3B 的 90.1,接近 Qwen3.5-397B-A17B 的 93.8(官方口径)
  • Jev 与解析器无关:对 MiniCPM-OCR、GLM-OCR、PaddleOCR-VL-1.6、Xiaomi-OCR-0 的结果 AUROC 都在 91.9–93.4
  • 吞吐约为 PaddleOCR-VL-1.6 的 1.49 倍、MinerU2.5 Pro 的 3.62 倍;配合 SDK 并发最高约 128 页/分钟(官方口径)
  • GitHub 代码与权重全部 Apache 2.0,提供 GGUF/AWQ/GPTQ 量化版与 SKILL.md
阅读全文
关联模型 / 智能体 / 厂商:
⚡ MiniCPM-OCR 1.0⚡ MiniCPM-OCR Jev⚡ PaddleOCR-VL-1.6⚡ MinerU2.5 Pro⚡ Qwen3.5-397B-A17B🌐 OpenBMB🌐 ModelBest🌐 Intel🌐 NVIDIA🌐 Arm

Ollama 原生支持 Recursive Flint 40B:首个 2.5B 激活参数轻量 MoE 编程智能体模型,MacBook Pro 跑出 125+ tok/s

由 Richard Socher 创办的 Recursive 正式开源 39.8B(40B)混合专家(MoE)编程智能体模型 Flint(RecursiveSI/flint),采用 Apache 2.0 协议并在 Ollama(ollama run flint)与 llama.cpp 全面开箱即用。该模型每 Token 仅激活 2.5B 参数,拥有 262K 超长上下文,在 M4 Pro MacBook Pro 上可实现 125+ tokens/秒的超高速本地推理。在 SWE-bench Verified 取得 74.2%、SWE-bench Pro v2 达到 89.7%,成为 50B 以下端侧运行最强编程智能体底座。

Ollama 原生支持 Recursive Flint 40B:首个 2.5B 激活参数轻量 MoE 编程智能体模型,MacBook Pro 跑出 125+ tok/s

核心要点速览

  • Flint 采用 49 层 Transformer 架构(2 层密集层 + 47 层 MoE 层),总参数 39.8B,每 Token 激活仅 2.5B 参数
  • 原生配备 262,144 tokens(256K)超长上下文窗口,支持端到端仓库级代码理解与跨文件缺陷定位
  • 本地推理性能极佳,M4 Pro MacBook Pro 达 125+ tok/s,64GB RTX Spark 可达 150+ tok/s
  • 在 SWE-bench Verified 取得 74.2%,SWE-bench Pro v2 达 89.7%,LiveCodeBench v6 斩获 80.3%,支持 ollama run flint 一键拉取
阅读全文
关联模型 / 智能体 / 厂商:

Ornith-1.5-122B 开源重磅登场:单机 DGX 即可部署的 122B MoE 推理模型,SWE-bench Pro 斩获 76.9 分

开源 AI 实验室 Ornith 团队正式发布 Ornith-1.5-122B 混合专家推理模型,并在 MIT 宽松协议下完全开源。该模型专门面向单节点 GPU 服务器(如单台 DGX)设计,提供包括 FP8、GGUF 与 MLX 在内的全套量化版本,已同步上架 Ollama(ornith-1.5:122b)与 vLLM/SGLang 运行时。在权威基准评测中,Ornith-1.5-122B 展现出媲美超大规模闭源模型的编程与智能体能力:在 OpenHands 评测框架下,SWE-bench Verified 达到 84.5 分,SWE-bench Pro 斩获 76.9 分(相较 Qwen3.8-Flash-Next 的 43.9 分取得跨越式领先),TerminalBench 达 81.2 分,MCP-Atlas 达到 74.6 分。

Ornith-1.5-122B 开源重磅登场:单机 DGX 即可部署的 122B MoE 推理模型,SWE-bench Pro 斩获 76.9 分

核心要点速览

  • Ornith-1.5-122B 正式发布并遵循极为宽松的 MIT 许可证,打破大参数量高性能编程推理模型闭源垄断
  • 专为单台 DGX 等单节点多卡服务器量身定制,已无缝接入 vLLM、SGLang 与 Ollama(ornith-1.5:122b),提供完整 FP8/GGUF/MLX 支持
  • 在真实软件工程评测集 SWE-bench Pro 斩获 76.9 分,相比同体量开源标杆 Qwen3.8-Flash-Next(43.9 分)大幅提升 33 分
  • 全方位通过 TerminalBench 2.1(81.2 分)、CyberGym(80.0 分)与 MCP-Atlas(74.6 分)测试,树立端到端 Coding Agent 开源新旗舰
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Ornith-1.5-122B⚡ Qwen3.8-Flash-Next🤖 OpenHands🌐 Ornith

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

Ollama 官方宣布在美国与欧盟本土服务器正式上线严格“零数据留存、零训练”的 Ollama Cloud 托管服务,同步接入 DeepSeek-V4.1-Flash-1017 并支持通过 ollama launch 一键拉起 Claude Code 与 OpenCode;同日,SemiAnalysis 披露重磅内幕:智谱旗舰模型 GLM-5.3 未重新预训练,而是 100% 基于前代模型通过高 GPU 效率的后训练(Post-Training)打造,在网络安全与攻防推理上较 GLM-5.2 实现跨代质变。

Ollama Cloud 上线美欧本土零数据留存集群并一键接入 Claude Code,SemiAnalysis 揭秘 GLM-5.3 纯靠后训练实现网安能力质变

核心要点速览

  • Ollama Cloud 正式上线美国与欧盟本土零数据留存(Zero Data Retention)托管集群,支持通过 ollama launch 一键驱动 Claude Code 与 OpenCode 运行 DeepSeek-V4.1-Flash-1017
  • Ollama v0.40.6 同步发布,新增 GGUF q2_0 量化张量类型支持,并彻底修复 Windows 平台孤儿 Runner 进程残留问题
  • SemiAnalysis 披露 GLM-5.3 完全基于前代模型通过高 GPU 效率的后训练(Post-Training)构建而成,在网络安全能力上较 GLM-5.2 实现“昼夜之别”的跨代跃升
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

OpenBMB 开源 MiniCPM-V 4.7:35B-A3B 首个 MoE 端侧多模态模型,iPhone 17 Pro Max 实测 13+ token/s

2026-10-12 OpenBMB(面壁智能)发布 MiniCPM-V 4.7 开源多模态系列,含 35B-A3B(系列首个 MoE)与 1B 两款,Apache-2.0。配套的 Lookahead Expert Scheduling(LES)跨层预取专家,叠加分层混合精度量化与 DSpark 投机采样,官方在 iPad Pro M4(16GB)上把专家从 SSD 加载的解码速度从 2.97 提到 17.39 token/s(5.86 倍)。权重已上架 Hugging Face / ModelScope / Ollama,支持 vLLM、SGLang、llama.cpp 与 iOS / Android / 鸿蒙端侧部署。

OpenBMB 开源 MiniCPM-V 4.7:35B-A3B 首个 MoE 端侧多模态模型,iPhone 17 Pro Max 实测 13+ token/s

核心要点速览

  • 两款开源权重(Apache-2.0):35B-A3B(系列首个 MoE,语言底座 Qwen3.6)与 1B,另附 FP8 / AWQ / GPTQ / int4 / GGUF 与 DSpark 草稿模型(Hugging Face)
  • LES 端侧解码(官方口径,iPad Pro M4 16GB):基线 2.97 → LES 9.81 → +分层量化 14.92 → +DSpark 17.39 token/s,累计 5.86×(LES 文档)
  • iPhone 17 Pro Max 上 35B-A3B 达 13+ token/s;视觉 token 支持 4x / 16x 混合压缩,按任务切换细节与成本
  • 厂商评测(Instruct,4x):MMBench 91.72、OCRBench 91.20、OmniDocBench v1.6 94.24、MMMU 80.22,对比 Qwen3.6-35B-A3B 分别为 86.76 / 86.00 / 80.17 / 77.44;SimpleVQA、ScreenSpot 等项仍落后
  • Day-0 芯片支持 Rockchip、后摩、Intel、AMD、Arm;推理框架覆盖 vLLM、SGLang、llama.cpp、Ollama,微调支持 SWIFT / LLaMA-Factory
阅读全文
关联模型 / 智能体 / 厂商:
⚡ MiniCPM-V 4.7 35B-A3B⚡ MiniCPM-V 4.7 1B⚡ Qwen3.6-35B-A3B🌐 OpenBMB🌐 面壁智能

yetone 开源 Magpie:菜单栏一处给 Claude Code/Codex/Gemini CLI 换模型;本机网关翻译三家 API,★4282

yetone/magpie(MIT,约 2026-09-23 起)把「每个 Agent 一份模型配置」收成菜单栏 + 本机网关:127.0.0.1:3425/v1 同时讲 OpenAI Chat/Responses、Anthropic Messages、Gemini,流式/工具/推理双向翻译。一次加入 DeepSeek/Kimi/GLM/OpenRouter/Ollama 或 Claude/ChatGPT/Copilot 登录,即可在 Codex、Claude Code、Gemini CLI、OpenCode 等切换。本跑 ★4282 / forks 275;官网 usemagpie.ai。

核心要点速览

  • 仓:yetone/magpie MIT;产品页:usemagpie.ai;意图路由文档:usemagpie.ai/docs/intent
  • 本跑 gh api:★4282 / forks 275;created_at 2026-09-23T16:22:35Z;二进制发布仓最新 tag v0.1.697(2026-10-03T02:04:55Z)
  • 核心:本机网关翻译三家 API;Routing groups 支持 smart/order/rotate/usage;可选 intent 分类器按回合选模型
  • 卖点:Claude/ChatGPT/Copilot 订阅登录可作 provider,密钥留在 Magpie,Agent 只指 base URL
  • 开箱:curl -fsSL https://usemagpie.ai/install.sh | sh 或 go install github.com/yetone/magpie@latest;magpie provider add … → magpie claude|codex|gemini …
阅读全文

Ollama Python 0.6.3:原生 systemone() 对接 Decision Models;think 支持模型自定义层级

官方 Python 客户端 v0.6.3 于 2026-09-29 发布:新增 ollama.systemone(),对齐服务端 v0.35.0 的 /v1/systemone Decision Models(choice/noul/score);同步放宽 think 类型以支持字符串思维层级,并修复多工具调用示例与图片扩展名大小写。需配合 Ollama ≥0.35.0 与本地 nimble/tev1 等决策模型。

Ollama Python 0.6.3:原生 systemone() 对接 Decision Models;think 支持模型自定义层级

核心要点速览

  • 发版:v0.6.3(2026-09-29);相对 v0.6.2 约 6 commits,含 examples/systemone.py
  • 新 API:ollama.systemone(model, state, questions) → 一次提交多题 choice/noul/score,返回选项概率与置信度
  • 前置:服务端 Ollama v0.35.0 + ollama pull nimble(或 tev1)
  • think 类型放宽为字符串层级,兼容模型自定义 thinking levels(PR #697/#744)
  • 安装:pip install -U ollama==0.6.3(PyPI)
阅读全文
关联模型 / 智能体 / 厂商:
⚡ nimble⚡ tev1🤖 ollama🌐 Ollama

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

Ollama 于 2026-09-28 发布 v0.35.0(GitHub 标记 prerelease):新增基于 TypeSafe Jev 的 Decision Models,HTTP 入口为 /v1/systemone。模型不再吐自由文本,而是对 choice/noul/score 三类问题返回选项、概率与置信度,覆盖工单分流、模型路由与内容分类。首批模型为 Bespoke Labs 的 Nimble 与 Together AI 的 Tev1;相对 v0.34.4 约 7 commits / 66 files,并修复 Settings 阻塞、macOS 更新菜单与 MLX 下载挂起。

Ollama 0.35.0:原生 Decision Models,经 /v1/systemone 接 Jev;Nimble/Tev1 上线,返回选择概率与置信度

核心要点速览

  • 发版:v0.35.0(2026-09-28,prerelease);对比 v0.34.4...v0.35.0 ≈7 commits / 66 files
  • 新 API:POST /v1/systemone,基于 TypeSafe Jev;问题类型 choice(带概率)、noul(条件为真概率)、score(有序准则打分)
  • 首批决策模型:Nimble、Tev1;ollama pull nimble 后即可本地调用
  • 示例响应含 probabilities 与 confidence(如 bug≈0.978 / confidence≈0.89),usage.input_tokens/output_tokens 可观测
  • 体验修复:Settings 不再等模型发现;macOS 更新菜单/图标;MLX 下载挂起;废弃参数 typical_p 改为告警而非失败
阅读全文

Ollama v0.40 重磅发布:Apple Silicon 默认启用苹果原生 MLX 运行时,端侧推理吞吐量翻倍

本地大模型推理运行时标杆 Ollama(@ollama)正式推出 v0.40.0 大版本更新。本次更新最具突破性的变革是:在搭载 Apple Silicon(M1 至 M5 芯片)的 Mac 设备上,Ollama 默认全面采用苹果官方原生 MLX 推理后端替代传统 llama.cpp 运行时。首批支持以原生 MLX 模式零配置运行 Qwen 3.8、Llama 3 等核心架构,彻底打通苹果统一内存的高带宽通道,本地推理首 Token 延迟降低 42%,持续生成吞吐量实现近乎翻倍的提升。

Ollama v0.40 重磅发布:Apple Silicon 默认启用苹果原生 MLX 运行时,端侧推理吞吐量翻倍

核心要点速览

  • 在所有搭载 Apple Silicon 的 Mac 设备上,Ollama 默认自动路由至苹果官方 MLX 高性能执行引擎。
  • 彻底释放 Mac 统一内存带宽优势,Qwen 3.8 与 Llama 3 本地推理吞吐量平均提升 85%,首 Token 延迟下降 42%。
  • 开发者无需重新编译或手动切换后端,执行标准 ollama run qwen3.8 即可零摩擦激活 MLX 加速。
  • GitHub Releases 已提供各平台更新包与完整提交日志,国内开发者可免代理直连获取。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Qwen 3.8⚡ Llama 3.1 8b🤖 local-agent🌐 ollama🌐 apple

Cline v4.1.21:接入日本 OpenAI 兼容端点 ai&,模型目录扩至 6,386 / 209 家,本地长回复自动 compact 重试

Cline(VS Code 扩展)于 2026-09-24 发布 v4.1.21:新增日本开源权重 OpenAI 兼容提供商 ai&;模型目录刷新到 6,386 个模型、覆盖 209 家提供商,其中 19 家未固定默认模型的提供商会改默认(11 家切到 Claude Opus 5.5,含 GitHub Copilot 与 Vertex);本地模型(llama.cpp / Ollama / LM Studio)触达输出 token 上限时会 compact 对话并重试一次。同步抬升 js-yaml 最低版本至 4.3.2。

Cline v4.1.21:接入日本 OpenAI 兼容端点 ai&,模型目录扩至 6,386 / 209 家,本地长回复自动 compact 重试

核心要点速览

  • 新提供商:ai&——日本 OpenAI 兼容端点,面向开源权重(Release v4.1.21)
  • 目录规模:刷新至 6,386 models / 209 providers;19 家未 pin 默认模型的提供商会改默认,其中 11 家默认切到 Claude Opus 5.5(含 GitHub Copilot、Vertex)
  • 本地模型:llama.cpp / Ollama / LM Studio 触达输出上限时 compact 后重试一次,保留部分答案
  • 安全:js-yaml 最低 4.3.2,覆盖 rule/skill frontmatter 解析
  • 安装:VS Code Marketplace 或下载 cline-4.1.21.vsix
阅读全文
AD赞助内容

OpenHands v1.23.0 正式发布:多智能体编排引擎升级,全面支持自主回归验证

开源自主编码智能体平台 OpenHands(@OpenHandsAI,原 OpenDevin)正式发布 v1.23.0 版本。本次发布重点升级了多 Agent 编排流水线与沙箱安全运行时,引入了针对复杂工程项目的即时回归评测套件,并优化了与本地模型(vLLM、Ollama)的高性能集成。

OpenHands v1.23.0 正式发布:多智能体编排引擎升级,全面支持自主回归验证

核心要点速览

  • 全新多 Agent 分工模式支持 Planner、Coder 与 Verifier 三位一体协同解决复杂 PR。
  • 本地 Docker 沙箱启动与执行延迟优化 35%,支持亚秒级命令执行与文件状态热监听。
  • 内置 SWE-bench Verified 自动化回归基准,开发者在本地即可一键验证自定义 Agent 表现。
  • 全量源码与预构建镜像均已在 GitHub 发布,国内开发者可直接通过国内镜像拉取运行。
阅读全文

Hazzel 开源:极简终端编码智能体,改前看 diff、可撤销,支持 BYOK 与 Ollama

@mukundzha6 发布 Hazzel(github.com/mukundzha/hazzel):约 1 万行 Python 的极简终端编码智能体,强调改文件前展示 diff、支持撤销与项目级命令;自带密钥(BYOK)与本地 Ollama,无订阅。定位为可看清、可回滚的本地编码助手,而不是黑盒自动改仓库。

核心要点速览

  • 终端编码智能体:改前 diff、可撤销、项目级命令。
  • BYOK + Ollama,无订阅。
  • 约 1 万行 Python,MIT 风格开源仓库。
阅读全文
关联模型 / 智能体 / 厂商:

Mira 开源:自托管 AI 代码审查,全仓索引并接自有 LLM/OpenRouter

@DanKornas 介绍 miracodeai/mira:面向团队的自托管 AI 代码审查,diff、索引、审查历史与 CVE 数据留在自有 SQLite/Postgres。支持 OpenRouter 与 OpenAI 兼容端点(含 vLLM/Ollama),按仓库规则(.mira.yaml)审 PR,并自动覆盖 GitHub、GitLab、Forgejo/Codeberg。Apache-2.0。

核心要点速览

  • 自托管默认:代码与审查数据不出自有基础设施。
  • 全仓索引 + 自定义规则,审查不止看单次 diff。
  • 支持 GitHub/GitLab/Forgejo,模型可选 OpenRouter 或本地 OpenAI 兼容端点。
阅读全文

Inco 开源 Splash:M5 Max 上 Qwen3.8-27B 达约 144 tok/s,专为 Apple 硅优化

Inco AI 发布开源本地推理引擎 Splash,面向 Apple 硅与 Qwen3.8-27B 等型号优化。官方称在 M5 Max MacBook Pro 上可达约 144 tok/s,解码速度约为 Ollama 的 3 倍、oMLX 的 2 倍,智能体扇出子代理时接近 4 倍;LM Studio 已在 Day 0 接入并可在 Settings > Runtime > Experimental backends 启用。

核心要点速览

  • 开源 Splash:专为 Apple 硅与 Qwen3.8-27B 优化的本地推理引擎。
  • 官方演示:M5 Max 上约 144 tok/s;相对 Ollama/oMLX 可达约 3×/2×,子代理扇出时接近 4×。
  • LM Studio Day 0 接入;引擎仓库 github.com/incoai/splash,说明见 lmstudio.ai/blog/splash-engine。
阅读全文

AWS 开源 Pizza Bot:面向后台 AI Agent 的邮件式收件箱,Apache-2.0 可自托管

AWS 将内部曾服务超 2000 人的 Pizza Bot 以 Apache-2.0 开源:自托管应用用邮件式界面汇总后台 agent 的完成结果与待审批决策,支持 Bedrock/Anthropic/Gemini/OpenAI/OpenRouter/Ollama,并含 MCP、SKILL.md workers 与 interrupt/approval 策略,提供桌面与浏览器/终端入口。

核心要点速览

  • 源自亚马逊内部工具,现以 Apache-2.0 开源并可自托管。
  • 邮件式收件箱汇总后台 agent 结果与待审批决策。
  • 支持多模型供应商、MCP、SKILL.md workers 与 interrupt/approval 策略。
阅读全文
关联模型 / 智能体 / 厂商: