AI 编程实时动态与要闻

苹果向所有开发者开放 Siri AI:iOS 27.3 等 Beta 推出 Developer Preview,任何 App 可用 App Intents 接入,并新增可串联多步操作的 skills

苹果 11 月 3 日在 Apple Developer 官网宣布,从 iOS 27.3、iPadOS 27.3、macOS 27.3 和 visionOS 27.3 Beta 起,新的 Developer Preview 允许任何 App 通过 App Intents 把内容和操作接入 Siri AI,可用上个人上下文理解、屏幕感知和自然语言等能力;同时新增 skills,让开发者教 Siri AI 把多个操作组合成一次完成,Siri AI 也能调用 Spotlight 语义索引里的任意实体。这仍是开发者预览,面向用户的上线要等几个月,App Store 提交在春季开放;Siri AI 目前在欧盟的 iOS、iPadOS、watchOS 上不可用。

苹果向所有开发者开放 Siri AI:iOS 27.3 等 Beta 推出 Developer Preview,任何 App 可用 App Intents 接入,并新增可串联多步操作的 skills

核心要点速览

  • 覆盖 4 个平台 Beta:iOS 27.3、iPadOS 27.3、macOS 27.3、visionOS 27.3(Apple Developer 公告)
  • 任何 App 都能用 App Intents 接入 Siri AI;新增 skills 可把多个操作合成一次请求,Spotlight 语义索引中的任意实体都能被 Siri AI 调出,不再限于已有 schema
  • 苹果自家 15 个 App 已先接入,包括日历、文件、访达、邮件、地图、信息、备忘录、照片、Safari、快捷指令、天气等
  • 时间线:面向用户“几个月后”首发,App Store 提交春季开放;Apple Intelligence Group Labs 于 11 月 4–5 日答疑
  • 限制:Siri AI 在欧盟的 iOS/iPadOS/watchOS 不可用,13 岁以下不可用,依赖服务器模型的功能有每日用量上限,官方称未来会推出付费扩容
阅读全文
关联模型 / 智能体 / 厂商:

Apple 智能官宣登陆中国:iOS 27.3 开发者 Beta 11 月 4 日开测、12 月正式推送,阿里千问接入 Siri、写作工具与视觉智能

Apple 在中国官网新闻稿中宣布,首批 Apple 智能功能将自 11 月 4 日起随最新 iOS 开发者 Beta 开放测试,并于 12 月 iOS 27.3 正式发布时面向中国用户推出。功能由 Apple 自建生成式模型驱动,包括实时翻译、写作工具、视觉智能、消除、智绘表情、通知与邮件摘要、输入文字与 Siri 对话等;同时与阿里巴巴合作,在 Siri、写作工具和视觉智能中接入千问。首批只覆盖 iPhone 15 Pro 及更新机型,Siri AI 等 WWDC 2026 新一代功能和图乐园不在本次范围内,Mac、iPad 等平台需等待进一步审批。

Apple 智能官宣登陆中国:iOS 27.3 开发者 Beta 11 月 4 日开测、12 月正式推送,阿里千问接入 Siri、写作工具与视觉智能

核心要点速览

  • 时间表(官方口径):11 月 4 日起随最新 iOS 开发者 Beta 测试,12 月随 iOS 27.3 正式推出,具体日期未公布
  • 首批功能包括实时翻译(信息、FaceTime、电话及 AirPods)、写作工具、视觉智能、消除、智绘表情、照片自然语言搜索、优先邮件与通知摘要、输入文字与 Siri 对话
  • 阿里千问接入 Siri、写作工具和视觉智能:可就照片、PDF 和演示文稿提问,写作工具中可让千问从零创作;需登录千问账户或用「通过 Apple 登录」
  • 支持机型:iPhone 16 及后续机型、iPhone Duo、iPhone 15 Pro/Pro Max、iPhone Air;Siri 与设备语言需设为英文和简体中文
  • 不包含 Siri AI 等 WWDC 2026 新一代功能,MacRumors 称图乐园也不在列;其他平台需获必要审批后推出
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Qwen⚡ Apple Foundation Models🤖 Siri🌐 Apple🌐 Alibaba

LM Studio Bionic 1.1.10 接入 oMLX 引擎:Mac 本地模型可用内存加 SSD 两级 KV 缓存,并支持 MLX 投机解码

LM Studio 于 10 月 29 日 15:32(UTC)在 X 上宣布,用户现在可以在 LM Studio 里下载新的 oMLX 引擎,直接用于已下载的 MLX 模型;官方更新日志把它列为 Bionic 1.1.10 的新功能,同版本还加入 MLX 模型投机解码和应用内终端。oMLX 是韩国开发者 jundot 维护的 Apple Silicon 开源推理服务器(Apache 2.0,GitHub 约 2.3 万星),主打连续批处理和内存加 SSD 的两级 KV 缓存。官方未公布 LM Studio 内的速度对比。

LM Studio Bionic 1.1.10 接入 oMLX 引擎:Mac 本地模型可用内存加 SSD 两级 KV 缓存,并支持 MLX 投机解码

核心要点速览

  • LM Studio 官方宣布可在应用内下载 oMLX 引擎,直接使用已有 MLX 模型,原帖约 540 赞(原帖)
  • Bionic 1.1.10 更新日志(10 月 29 日)同时列出 MLX 投机解码、应用内终端公开可用和 llama.cpp 2.66.0 扩展包(更新日志)
  • oMLX 为 Apache 2.0 开源项目,GitHub 约 23,000 星,要求 macOS 15+ 与 Apple Silicon(M1 到 M5)(GitHub)
  • oMLX 的核心是两级 KV 缓存:热块放内存,溢出块以 safetensors 格式写入 SSD,前缀相同的请求甚至重启后也可从磁盘恢复
  • LM Studio 未公布该引擎与原 MLX 引擎的速度对比;发布后已有用户反馈「重启以应用更新」失败,官方正在排查
阅读全文

ChatGPT 上线 iCloud Mail 和 iCloud Calendar 插件:所有套餐可用,用 Apple 专用密码连接

ChatGPT 官方账号 10 月 27 日宣布,iCloud Mail 和 iCloud Calendar 插件已在 ChatGPT 上线,覆盖所有套餐的网页版、桌面版和 iOS,正在全球逐步推送。用户可以让 ChatGPT 找邮件、汇总收件箱、查看日程或修改日历事件。两个插件需分别安装,均用 Apple 的 App 专用密码连接,并都带只读的联系人查询;独立的通讯录和提醒事项插件不在本次范围内。

ChatGPT 上线 iCloud Mail 和 iCloud Calendar 插件:所有套餐可用,用 Apple 专用密码连接

核心要点速览

  • 所有 ChatGPT 套餐(含免费版)可用,支持网页、桌面和 iOS,全球逐步推送,受工作区应用管控限制
  • 入口在 Settings > Plugins,iCloud Mail 和 iCloud Calendar 要分别安装、分别连接
  • 连接用 Apple App 专用密码(需开启双重认证),不要用 Apple 主密码,也不要把密码贴进对话
  • Mail 只支持 @icloud.com、@me.com、@mac.com 地址;Calendar 填 Apple 账户主邮箱,两者可能不同
  • 在 ChatGPT 断开连接不会在 Apple 端撤销专用密码,需到 account.apple.com 单独撤销
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容

Apple Creator Studio 加入 AI 助手:Logic Pro 与 Keynote/Pages/Numbers 用 Apple 自研模型加 OpenAI,iWork 三件套支持 MCP 供外部 Agent 操作

Apple 10 月 27 日发布 Apple Creator Studio 大更新:Logic Pro for Mac 和 Keynote、Pages、Numbers 新增 beta 版智能助手,官方称由 Apple 自研模型与 OpenAI 共同驱动,能理解文档上下文;Keynote、Pages、Numbers 还新增 Model Context Protocol(MCP)支持,外部 AI Agent 可直接读取内容、执行编辑和自动化操作。Pixelmator Pro 加入自然语言 Generate Fill,Keynote 推出开放的 JSON 格式 .keyx。更新 11 月通过 App Store 免费推送给现有订阅者,订阅价 $12.99/月或 $129/年不变。

Apple Creator Studio 加入 AI 助手:Logic Pro 与 Keynote/Pages/Numbers 用 Apple 自研模型加 OpenAI,iWork 三件套支持 MCP 供外部 Agent 操作

核心要点速览

  • Logic Pro for Mac、Keynote、Pages、Numbers 新增 beta 智能助手,官方口径为「Apple 自研模型 + OpenAI」组合驱动
  • Keynote、Pages、Numbers 支持 MCP,外部 AI Agent 可读取内容、编辑并执行自动化操作(需 macOS 27 或更高)
  • Keynote 推出开放的 JSON 格式 Keynote Interchange Format(.keyx),面向外部工具与 AI Agent 读取
  • 助手仅限美式英语,需 Apple Intelligence 设备及 iOS/iPadOS/macOS 27;11 月对现有订阅者免费更新
  • 订阅价不变:$12.99/月或 $129/年,教育版 $2.99/月
阅读全文

Apple 推送 27.2 系统更新:Siri AI 新增法语、日语、韩语、葡萄牙语和西班牙语,并能记住过去的对话

Apple 10 月 26 日发布 iOS、iPadOS、macOS、watchOS 和 visionOS 27.2,基于 Apple Intelligence 重做的 Siri AI(Beta)在英语之外新增法语、日语、韩语、葡萄牙语和西班牙语。官方称繁体中文、挪威语、土耳其语和越南语将在年底前上线。按 iOS 27.2 发布说明,Siri AI 现在可以回忆过去的对话,并能从信息里的照片、日历参与者、语音留言等更多来源取材。Siri AI 仍不在欧盟(iOS、iPadOS、watchOS)和中国大陆提供,依赖服务器端模型的功能有每日用量上限,Apple 称未来将推出付费的扩展额度。

Apple 推送 27.2 系统更新:Siri AI 新增法语、日语、韩语、葡萄牙语和西班牙语,并能记住过去的对话

核心要点速览

  • 语言:Siri AI 从仅英语扩展到 6 种语言,新增法语、日语、韩语、葡萄牙语、西班牙语;繁体中文、挪威语、土耳其语、越南语官方称年底前上线
  • 覆盖 5 个平台:iOS、iPadOS、macOS、watchOS、visionOS 27.2 同日推送,Siri AI 仍标注为 Beta
  • 新能力(据 iOS 27.2 发布说明):可回忆过去的对话,新增信息内照片、日历参与者、语音留言等取材来源,并可在一个设置里排除指定 App
  • 限制:iOS/iPadOS/watchOS 在欧盟不可用,中国大陆账号不可用,13 岁以下不可用;服务器端模型功能有每日上限,Apple 称将来提供付费扩展额度
  • 机型:iPhone 15 Pro 及之后机型、M1 及以上 iPad 和 Mac 等 Apple Intelligence 设备,设备语言与 Siri 语言需一致
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Apple Intelligence⚡ AFM 3🤖 Siri AI🌐 Apple

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

SGLang 团队正式发布 v0.5.22 大版本更新(凝聚 245 位贡献者提交的 950 个 PR):深度优化 DeepSeek-V4.1 推理性能,在 H200 单卡吞吐狂飙 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升;首创 InstantTensor 加载器将大模型冷启动显存载入提速 10 倍;B200 上 Qwen3.8-Flash-Next 解码提速 12%、B300 上 GLM-5.3-Flash 提速 10% 且 MiMo-V2.6-Pro 解码吞吐达 1.85 倍;并原生支持苹果 Apple Silicon 与 ComfyUI 扩散生态。

SGLang v0.5.22 重磅发布:DeepSeek-V4.1 在 H200 吞吐提升 2.3 倍、MI355X 提速 1.9 倍,InstantTensor 载入提速 10 倍

核心要点速览

  • SGLang v0.5.22 正式发布,汇聚 245 位贡献者的 950 个 PR
  • DeepSeek-V4.1 在 NVIDIA H200 单卡吞吐暴涨 2.3 倍,并通过 DSpark 首次在 AMD MI350X/MI355X 实现 1.9 倍吞吐提升
  • 全新 InstantTensor 加载器将千亿模型冷启动载入速度提升 10 倍(10x faster)
  • B200 上 Qwen3.8-Flash-Next 解码提速 12%,B300 上 GLM-5.3 提速 10% 且 MiMo-V2.6-Pro 解码达 1.85 倍
  • PD 分离架构使长 Prompt 首字延迟 p95 TTFT 减半(-50%),吞吐净增 27%,原生支持 Apple Silicon 与 ComfyUI
阅读全文
关联模型 / 智能体 / 厂商:

Meta 开源 Muse Spark Open:816B/42B 原生多模态美系开源旗舰,双 M5 Ultra Mac Studio 可本地跑智能体

Meta 于 2026-10-15 放出 Muse Spark Open 开源权重:816B 总参、每 token 激活 42B 的 MoE + Perception Encoder,原生支持文本/图像/视频/音频输入与 1M 上下文,定位编码与长程智能体。权重上 Hugging Face(BF16/NVFP4)、SageMaker、Model Garden 与 Foundry;API 已通 OpenRouter、Together、Fireworks、Groq 等。官方称其为迄今最强美系开源权重,并与 Apple 合作使双台 M5 Ultra Mac Studio 经 MLX 本地跑通。

Meta 开源 Muse Spark Open:816B/42B 原生多模态美系开源旗舰,双 M5 Ultra Mac Studio 可本地跑智能体

核心要点速览

  • 规格:MoE 816B 总参 / 42B 激活(256 experts,top-8),62 层,1M 上下文;输入文本+图像+视频+音频,输出文本(模型卡)
  • 本地门槛:NVFP4 约需 ≥700GB 显存,BF16 约 2TB;亦可双台 Apple M5 Ultra Mac Studio + MLX 统一内存部署(Meta 博客)
  • 智能体基准(xhigh,官方表):MCP-Atlas 89.2、JobBench 61.8、OSWorld Verified 80.4、Terminal-Bench 2.1 76.4、DeepSWE 1.1 60、AA Intelligence Index 39
  • 推理栈:SGLang / vLLM / TensorRT-LLM / Transformers / llama.cpp / Unsloth / MLX;附 Helion 内核(NVIDIA/AMD 内核级 1.03–3.95×)
  • 许可:Muse Model License(须标注 Built with Muse Spark Open;年收入超 $20M 的 MaaS 需另签);OpenRouter 约 $1.25/M 入、$4.25/M 出
阅读全文
关联模型 / 智能体 / 厂商:

苹果团队重磅揭秘:MoE 专家路由天生懂 Agent 动作!分层路由控制让智能体强化学习成功率狂飙 10+ 点

稀疏混合专家模型(Sparse MoE)凭借高效的推理激活比,已成为驱动长程大语言模型智能体的主流底座架构。然而,智能体的长程决策交互行为与底层 MoE 的专家路由结构之间该如何协同优化,长期缺乏系统性探索。苹果机器学习研究团队(Apple Machine Learning Research,arXiv:2610.07332)在对开箱即用 MoE 模型的实测中取得重大发现:MoE 的专家选择天然展现出与智能体轨迹高度对齐的特化结构——当智能体执行语义相似的交互动作(如 READ 读取上下文、UPDATE 修改状态、EXECUTE 执行命令)时,专家路由重合度极高!然而,标准 RL 算法在后训练时完全放任路由随机漂移,严重损害了智能体性能与推理稳定性。为此,苹果提出全新的分层路由控制框架(Hierarchical Routing Control),显式约束 Turn 级专家选择与 Agent 动作语义对齐,并通过熵门控控制(Entropy-Gated Control)彻底攻克了强化学习后训练中的路由崩塌。在多项复杂长程基准中,该框架使智能体任务成功率全面提升超 10 个百分点。

核心要点速览

  • 苹果团队首次证实 MoE 专家路由天生与 Agent 动作语义高度对齐,揭示底层网络架构与交互智能的共生关系
  • 提出分层路由控制(Hierarchical Routing Control)与熵门控机制,攻克强化学习后训练中的路由崩塌与漂移
  • 在长程智能体基准上任务成功率全面暴涨超 10 个百分点,推理吞吐提升 18%,零额外推理计算开销
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Sparse-MoE⚡ Agentic-RL⚡ Hierarchical-Routing⚡ Qwen-MoE🤖 Apple-ML-Research🤖 MoE-Agent🤖 Routing-Controller🌐 Apple🌐 Hugging Face
S
Strands Agents (AWS)strands-agents·
👀92
🔥85

AWS 开源 Strands Box:OS 级隔离 + Dogwood 时序策略,给 YOLO 模式的编码 Agent 套上确定性缰绳

AWS 于 10 月 7 日发布开源 Agent 沙箱 Strands Box v0.1.0(Rust,Apache 2.0)。它把操作系统级隔离与 Dogwood 策略语言结合:Shell、Python、出站网关和 MCP 调用都先经过同一个默认拒绝的策略引擎,并共享事件历史,规则可以依据“之前做过什么、过了多久”来放行或拒绝。凭证由网关注入,Agent 拿不到明文密钥。目前仅支持 Apple 芯片 macOS,Linux 开发中。

AWS 开源 Strands Box:OS 级隔离 + Dogwood 时序策略,给 YOLO 模式的编码 Agent 套上确定性缰绳

核心要点速览

  • 版本与许可:v0.1.0 于 2026-10-07 17:24 UTC 发布,Rust 编写,Apache 2.0(GitHub)
  • 默认拒绝:经策略引擎检查的操作必须命中 permit 才放行,forbid 优先级更高(Dogwood)
  • 时序规则示例:允许 Agent 发 Slack 状态,但每 10 分钟最多 3 次;也可限制 git push 时机或给 API 调用设上限(The Register)
  • 平台:目前仅 Apple 芯片 macOS 15+;Linux 开发中,Windows 在规划,AgentCore / ECS / Kubernetes 部署计划中
  • 跑分:AWS 未公布性能或安全基准数据
阅读全文
关联模型 / 智能体 / 厂商:
AD赞助内容
g
ggml-org@AICoder·
👀194
🔥84

llama.cpp v0.6.0 稳定版发布:正式纳入 GLM-5.3-Flash(320B)与 Qwen4Exp MTP 投机解码,新 llama_batch_ext API,Apple GPU 小批量矩阵乘最高约 3 倍

ggml-org 于 10 月 5 日发布 llama.cpp v0.6.0 稳定版(上一版 v0.5.0 为 9 月 23 日)。本版把 GLM-5.3-Flash(GLM5-Next,320B 图文混合 MoE)支持带进正式版,Qwen4Exp 加入 MTP 投机解码(DGX Spark 上解码约 1.5 倍),引入支持 token/embedding 混合批次的 llama_batch_ext 与 llama_process() 新 API,并为 Apple GPU 新增小批量 MMA 矩阵乘内核(投机/批量解码场景最高约 3 倍),ggml 升级到 v0.26.0。会话格式版本号同时升级,旧会话文件需注意兼容。

核心要点速览

  • 新模型:GLM-5.3-Flash(GLM5-Next,320B KDA/DSA 混合图文 MoE,#27773)、Clef 图文决策模型、Ling 3.0 VL、LFM2.5-Encoder
  • 提速:Qwen4Exp MTP 投机解码在 DGX Spark 上解码约 1.5 倍;Metal 小批量 MMA 矩阵乘最高约 3 倍(#29869)
  • API:新增 llama_batch_ext + llama_process(),单批次混合 token 与 embedding(#24669);server 已迁移
  • 兼容性:LLAMA_SESSION_VERSION 升至 11、LLAMA_STATE_SEQ_VERSION 升至 4,旧的会话/状态文件需重新生成
  • Server:/v1/models 返回输入输出模态;/v1/embeddings 接受图像/音频/视频类型输入;新增 /v1/systemone 决策模型接口
阅读全文
关联模型 / 智能体 / 厂商:
G
Gökdeniz GülmezGoekdeniz-Guelmez·
👀85
🔥78

MLX-LM-LoRA v5.8.6:Apple Silicon 本地微调库从 3.1.3 跃升,新增 DSLA 偏好对齐与无 Critic 的 KLPO 强化学习

Gökdeniz Gülmez 于 10 月 5 日发布 MLX-LM-LoRA v5.8.6(GitHub Release + PyPI 同步上线),这是 3.1.3 之后的大版本。新增 DSLA(可选 DPO/ORPO/CPO 目标)与无 Critic 的 KLPO(token/sequence 两种路线、多种 KL 估计器),改进 GRPO 数值稳定性与 Online DPO/XPO/RLHF/PPO 微批处理,为 gated-delta 层加入快速 VJP。最低依赖升至 mlx>=0.32.3、mlx_lm>=0.32.0、Python>=3.11,许可证统一为 Apache 2.0。

核心要点速览

  • 版本跨度:从 v3.1.3(9 月 16 日)直接跳到 v5.8.6,合并 PR #64、#94、#96–#102 共 9 个,见 Release 说明。
  • 两种新训练模式:--train-mode dsla(--dsla-loss dpo|orpo|cpo,默认 --latent-weight 0.1)与 --train-mode klpo(--klpo-route token|sequence,--klpo-kl-estimator mc|binary|topk|full)。
  • KLPO 不使用 GRPO 组归一化、PPO 比率裁剪,也不需要参考模型,复用 GRPO 奖励回调与生成/打分流水线。
  • 依赖门槛提高:mlx>=0.32.3、mlx_lm>=0.32.0、Python >=3.11,旧环境需先升级。
  • QAT 扩展到 DSLA;新增 Python API 参考文档,见 官方文档站。
阅读全文
关联模型 / 智能体 / 厂商:

苹果官宣收紧 macOS Full Disk Access:点名 AI Agent 风险,授权须「非常明确的用户操作」

Apple 于 2026-10-02 在 Developer News 宣布:将为 macOS Full Disk Access(完整磁盘访问) 引入额外控制,确保只有经「非常明确的用户操作」才能授予该权限。官方原文直接点名 AI agents——随着代理能力与自主性上升,这一权限的风险会「substantially」放大。尚未公布具体 OS 版本或生效日。

苹果官宣收紧 macOS Full Disk Access:点名 AI Agent 风险,授权须「非常明确的用户操作」

核心要点速览

  • 官宣:Apple Developer News — Updates to Full Disk Access in macOS(2026-10-02)
  • 动机原文:AI agents 日益 capable / autonomous,FDA 级别访问的风险会 substantially 增长;备份类 App 才是 FDA 的历史用途
  • 管控方向:用户若确实要授权「extraordinary level of access」,只能通过 very explicit user action;未公布 API / UI / 生效版本
  • 背景(第三方):TechCrunch 将该公告与 Meta Muse 桌面权限争议及 ChatGPT Mac 敏感数据风险报道并置——非 Apple 官方结论
  • 开发者动作:盘点 Claude Code / Cursor / Muse / Copilot 等对 FDA 的依赖;优先改用用户选定目录 + security-scoped bookmark,勿把 FDA 当默认能力
阅读全文

Unsloth v0.1.900-beta:本地跑 Laya Decision 模型 + Skills 编辑器,LTX-2.3 视频约 4.5×、VAE 解码最高 6.3×

Unsloth 于 2026-09-28 发布 v0.1.900-beta(PyPI unsloth 2026.9.12):Desktop 可本地运行 Laya 等 Decision 模型(Jev 兼容 /v1/systemone),新增 Skills 创建/编辑/删除与 Library 文档查看器(PDF/Word/Excel/PPT);Apple Silicon 侧补齐批服务、结构化输出与 TurboQuant KV;图像/视频管线宣称 LTX-2.3 片段约 4.5×、VAE 解码 1.7–6.3×,MiniMax-H3 首渲最高快约 1 分钟且峰值显存降 25–29 GiB。

Unsloth v0.1.900-beta:本地跑 Laya Decision 模型 + Skills 编辑器,LTX-2.3 视频约 4.5×、VAE 解码最高 6.3×

核心要点速览

  • 发版:v0.1.900-beta(2026-09-28);对比 v0.1.815-beta;PyPI unsloth 2026.9.12
  • Decision:本地 Laya/Jev,Settings > API 开启 Decision API,TypeSafe 走 /v1/systemone;Apple Silicon 可选 MLX(#11603)
  • 媒体加速:LTX-2.3 片段约 4.5×;VAE 解码 1.7–6.3×;MiniMax-H3 首渲最高快约 1 分钟,峰值显存降 25–29 GiB(A100/B200/RTX PRO 6000)
  • 产品面:Skills 编辑器 + Library(PDF/Word/Excel/PPT);ModelScope 下载通道;Apple Silicon 批服务 / response_format 语法约束 / TurboQuant KV
  • 文档入口:docs.unsloth.ai / 仓库
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Laya⚡ LTX-2.3⚡ MiniMax-H3⚡ Gemma-4🤖 Unsloth-Studio🌐 Unsloth

Xinference v3.5.0 正式发布:全栈支持 YuE2 音乐生成、MinerU2.5 文档解析与 Apple MLX 语音生态

开源一站式分布式大模型推理框架 Xinference(xorbitsai/inference)正式发布 v3.5.0 重大更新。新版本全面升级多模态推理矩阵:在音频与音乐领域原生集成 YuE2 音乐生成大模型,并新增对 AuK / AuK-Flash 与 Irodori TTS v4.1 的支持;在 Apple Silicon 生态中,针对 FishAudio-S2-Pro、Irodori TTS Small 与 Breeze TTS 2 实现原生 Apple MLX 硬件加速。此外,新版集成了商汤 MinerU2.5 高密度复杂文档解析大模型与 LingBot-World-V2 具身世界模型,并在核心引擎中支持端到端 Actor 调用链路元数据(Correlation Metadata)穿透,显著提升分布式 Agent 推理集群的可观测性。

Xinference v3.5.0 正式发布:全栈支持 YuE2 音乐生成、MinerU2.5 文档解析与 Apple MLX 语音生态

核心要点速览

  • 多模态音乐与语音矩阵:原生接入 YuE2 歌声与音乐生成模型,新增 AuK、AuK-Flash 以及 Irodori TTS v4.1
  • Apple Silicon MLX 加速:FishAudio-S2-Pro、Irodori TTS Small 与 Breeze TTS 2 获得原生 MLX 算子加速,Mac 统一内存利用率翻倍
  • 专业文档与世界模型:一键部署复杂版面与公式解析 SOTA 模型 MinerU2.5,同步集成具身实体世界模型 LingBot-World-V2
  • 分布式链路可观测性:在 Ray / Actor 底层通信中全自动透传 Correlation Metadata,多 Agent 并发调用排查效率提升 3 倍
  • 企业级审计与环境:新增可选的模型请求日志记录(Opt-in Request Logging)并优化虚拟环境依赖包细节展示与排序
阅读全文
关联模型 / 智能体 / 厂商:
⚡ YuE2⚡ FishAudio-S2-Pro⚡ MinerU2.5⚡ LingBot-World-V2🤖 Xinference Worker🌐 Xorbits AI🌐 SenseTime