BerriAI 于 2026-09-28 发布 LiteLLM v1.103.0（PyPI 已到 1.103.0）：MCP 委托 OAuth 强制准入控制；路由侧引入 Capability 分类器与 Fuse V2；代理可跨部署预估 prompt-cache 成本，并新增 JWT→agent 绑定、tpd_limit、用户/团队批量管理与 /nvidia_nim 透传。另含 Bedrock S3 托管文件删列、Friendli 价格自动同步、Responses↔Chat reasoning 映射与 cosign 镜像验签指引。

核心要点速览 (Key Takeaways)

  • ✓发版：v1.103.0（2026-09-28）；安装 pip install litellm==1.103.0（PyPI）；文档 docs.litellm.ai
  • ✓安全：MCP 委托 OAuth 必须准入（#40923）；Docker 镜像可用 cosign 按固定 commit 公钥验签
  • ✓路由：Capability 分类器 + Fuse V2（#41270/#41272）；可跨部署 预估 prompt-cache 成本
  • ✓治理：JWT agent_id_jwt_field 绑定注册 Agent；tpd_limit 管 batch；/management/v1/users/bulk 批量建用户/团队
  • ✓生态：Bedrock S3 托管文件删/列、Friendli 元数据进价格表、CLI 可从代理 /v1/models 同步 Codex /model 选择器
🧭

阅读完核心要点？进一步了解模型实力与实际开销

7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算

🏆 天梯榜(72s必看)→💰 比价测算↗
🔗

相关资源与官方项目出处

免代理直达
💡 国内无需访问 Twitter，可直接访问上述项目官方资源与文档
🐙
GitHub Release v1.103.0
github.com/BerriAI/litellm/releases/tag/v1.103.0
↗
📖
LiteLLM documentation
docs.litellm.ai/
↗
🌐
PyPI litellm 1.103.0
pypi.org/project/litellm/1.103.0/
↗
🐙
BerriAI/litellm repository
github.com/BerriAI/litellm
↗
🐙
#40923
github.com/BerriAI/litellm/pull/40923
↗
🐙
#41270
github.com/BerriAI/litellm/pull/41270
↗
🐙
#41272
github.com/BerriAI/litellm/pull/41272
↗
🐙
预估 prompt-cache 成本
github.com/BerriAI/litellm/pull/40877
↗
🔬

深度技术解析与实战评估

核心背景与行业痛点

统一 LLM 网关要同时扛 MCP 委托登录、多部署缓存计费与智能路由：委托 OAuth 若无准入会扩大攻击面；prompt-cache 成本难跨部署预估；路由又缺能力分类与 Fuse 级调度。代理侧还要批量管用户/团队，并把 Bedrock 文件与第三方价格表接进同一套 spend 账本。

架构亮点与底层机制

v1.103.0 强制 MCP 委托 OAuth 准入（#40923）；路由加入 Capability 分类器与 Fuse V2，并可跨部署预估 prompt-cache 成本。JWT 可经 agent_id_jwt_field/virtual_key_claim_field 绑定 Agent 与按 issuer 作用域的虚拟钥；管理面新增用户/团队 bulk API 与 tpd_limit。Bedrock 支持 S3 托管文件删列；Friendli 模型元数据自动同步价格表；Responses 路径把 reasoning 对象映射到 Chat Completions 的 reasoning effort。

权威 Benchmark 与实测跑分对比

发行说明未给出统一延迟/吞吐榜。请用自有流量对比：准入开启前后 MCP OAuth 失败率、Fuse/Capability 路由命中与 fallback 次数，以及 prompt-cache 预估 vs 实账偏差。镜像侧按文档用 cosign 验 ghcr.io/berriai/litellm:v1.103.0。

开发者实战落地与开箱指南

升级：pip install -U litellm==1.103.0（PyPI），代理配置见 文档。开启 MCP 委托前确认 admission；需要智能路由时启用 Capability/Fuse（注意未授权实例各限 1 个）。批量账号走 /management/v1/users/bulk；NVIDIA NIM 检测/OCR 可走 /nvidia_nim 透传。完整 PR 列表见 发行页。