AI 编程实时动态与要闻

LM Studio Bionic 1.1.10 接入 oMLX 引擎:Mac 本地模型可用内存加 SSD 两级 KV 缓存,并支持 MLX 投机解码

LM Studio 于 10 月 29 日 15:32(UTC)在 X 上宣布,用户现在可以在 LM Studio 里下载新的 oMLX 引擎,直接用于已下载的 MLX 模型;官方更新日志把它列为 Bionic 1.1.10 的新功能,同版本还加入 MLX 模型投机解码和应用内终端。oMLX 是韩国开发者 jundot 维护的 Apple Silicon 开源推理服务器(Apache 2.0,GitHub 约 2.3 万星),主打连续批处理和内存加 SSD 的两级 KV 缓存。官方未公布 LM Studio 内的速度对比。

LM Studio Bionic 1.1.10 接入 oMLX 引擎:Mac 本地模型可用内存加 SSD 两级 KV 缓存,并支持 MLX 投机解码

核心要点速览

  • LM Studio 官方宣布可在应用内下载 oMLX 引擎,直接使用已有 MLX 模型,原帖约 540 赞(原帖)
  • Bionic 1.1.10 更新日志(10 月 29 日)同时列出 MLX 投机解码、应用内终端公开可用和 llama.cpp 2.66.0 扩展包(更新日志)
  • oMLX 为 Apache 2.0 开源项目,GitHub 约 23,000 星,要求 macOS 15+ 与 Apple Silicon(M1 到 M5)(GitHub)
  • oMLX 的核心是两级 KV 缓存:热块放内存,溢出块以 safetensors 格式写入 SSD,前缀相同的请求甚至重启后也可从磁盘恢复
  • LM Studio 未公布该引擎与原 MLX 引擎的速度对比;发布后已有用户反馈「重启以应用更新」失败,官方正在排查
阅读全文

Cline v4.1.21:接入日本 OpenAI 兼容端点 ai&,模型目录扩至 6,386 / 209 家,本地长回复自动 compact 重试

Cline(VS Code 扩展)于 2026-09-24 发布 v4.1.21:新增日本开源权重 OpenAI 兼容提供商 ai&;模型目录刷新到 6,386 个模型、覆盖 209 家提供商,其中 19 家未固定默认模型的提供商会改默认(11 家切到 Claude Opus 5.5,含 GitHub Copilot 与 Vertex);本地模型(llama.cpp / Ollama / LM Studio)触达输出 token 上限时会 compact 对话并重试一次。同步抬升 js-yaml 最低版本至 4.3.2。

Cline v4.1.21:接入日本 OpenAI 兼容端点 ai&,模型目录扩至 6,386 / 209 家,本地长回复自动 compact 重试

核心要点速览

  • 新提供商:ai&——日本 OpenAI 兼容端点,面向开源权重(Release v4.1.21)
  • 目录规模:刷新至 6,386 models / 209 providers;19 家未 pin 默认模型的提供商会改默认,其中 11 家默认切到 Claude Opus 5.5(含 GitHub Copilot、Vertex)
  • 本地模型:llama.cpp / Ollama / LM Studio 触达输出上限时 compact 后重试一次,保留部分答案
  • 安全:js-yaml 最低 4.3.2,覆盖 rule/skill frontmatter 解析
  • 安装:VS Code Marketplace 或下载 cline-4.1.21.vsix
阅读全文

LM Studio:Bionic Agent 支持会话自省与 @ 引用其他会话,长上下文更稳

LM Studio(@lmstudio)宣布 Bionic Agent 新增 Introspection 与 Session References:智能体可检索自身会话历史,在多次压缩后仍能处理长期上下文;在 composer 中可用 @ 直接引用其他会话,方便跨对话接力同一项目。

核心要点速览

  • Bionic Agent 可搜索自身会话历史,增强长程与多次 compaction 后的上下文能力。
  • Composer 支持 @ 引用其他会话,便于跨对话继续同一项目。
  • 面向本地 LM Studio 用户的智能体工作流增强,而非新模型发布。
阅读全文
关联模型 / 智能体 / 厂商:

LM Studio 首日接入 Inco Splash:M5 Max 上 Qwen3.8-27B 约 144 tok/s

LM Studio 宣布与 Inco 合作,在发布首日就把 Splash 推理引擎接入 LM Studio。官方称在 M5 Max 上运行 Qwen3.8-27B 可达约 144 tok/s,并给出安装指引(lmstudio.ai/blog/splash-engine)。此前 Inco 已开源 Splash;此次意味着本地桌面用户可在 LM Studio 内直接用上该 Apple 硅优化引擎,而不必单独拼装推理栈。

核心要点速览

  • LM Studio 首日接入 Inco Splash 推理引擎,面向本地桌面一键可用。
  • 宣称 M5 Max 上 Qwen3.8-27B 约 144 tok/s,并给出官方安装博文。
  • 把 Apple 硅优化推理从独立引擎推进到主流本地客户端分发通道。
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

Inco 开源 Splash:M5 Max 上 Qwen3.8-27B 达约 144 tok/s,专为 Apple 硅优化

Inco AI 发布开源本地推理引擎 Splash,面向 Apple 硅与 Qwen3.8-27B 等型号优化。官方称在 M5 Max MacBook Pro 上可达约 144 tok/s,解码速度约为 Ollama 的 3 倍、oMLX 的 2 倍,智能体扇出子代理时接近 4 倍;LM Studio 已在 Day 0 接入并可在 Settings > Runtime > Experimental backends 启用。

核心要点速览

  • 开源 Splash:专为 Apple 硅与 Qwen3.8-27B 优化的本地推理引擎。
  • 官方演示:M5 Max 上约 144 tok/s;相对 Ollama/oMLX 可达约 3×/2×,子代理扇出时接近 4×。
  • LM Studio Day 0 接入;引擎仓库 github.com/incoai/splash,说明见 lmstudio.ai/blog/splash-engine。
阅读全文

LM Studio 推出 Bionic Auto Review:AST 解析与确定性校验自动批准 82% 的 Shell 命令

桌面本地大模型平台 LM Studio 为其 Bionic 智能体引入 Auto Review 自动化授权系统。通过 AST 语法树解析、安全命令白名单匹配与审核子代理协同,在内部测试中成功实现 82% 的安全 Shell 命令免人工点击自动放行。

核心要点速览

  • 改变智能体交互体验:将“每次执行命令都需要人类手动点击批准”的繁琐体验彻底自动化;
  • 双层安全防护:第一层采用 AST 语法树与确定性白名单过滤,第二层由轻量审阅模型进行语义把关;
  • 在保障本地系统安全隔离的前提下,大幅提升自治 Coding Agent 连续执行多步调试的流畅度。
阅读全文
关联模型 / 智能体 / 厂商:

Hugging Face 发布 2026 夏季开源模型报告:Qwen 系列领跑全球本地离线推理生态

Hugging Face 发布《2026 年夏季全球开源模型生态报告》,数据显示阿里通义千问 Qwen 系列在端侧部署、本地 IDE 插件(Ollama / vLLM / LM Studio)以及代码基准评测中占据超过 40% 的开源推理总调用量。

核心要点速览

  • 阿里 Qwen 系列在端侧硬件与本地开发者插件中的市占率突破 40%,成为最受青睐的开源基座;
  • 端侧量化与混合注意力(Sparse Attention)架构大幅降低了长程 Agent 在消费级显卡上的运行门槛;
  • 报告指出开源模型在 SWE-bench 与代码生成领域与闭源前沿差距已缩减至 6 个月以内。
阅读全文
关联模型 / 智能体 / 厂商: