AI 编程实时动态与要闻

在 GTC Berlin 大会上，NVIDIA 官方正式发布 OpenShell 智能体安全参考架构与全新的 Agent Knowledge Foundation 套件。针对自主 AI 智能体（Autonomous Agents）在拥有系统写权限、数据库查询与终端执行能力后，极易因提示词注入或失控执行产生越权访问机密数据、发起破坏性命令的行业痛点，OpenShell 基于硬件级隔离信任根（Hardware-Isolated Security）构建了严密的运行时安全边界。系统能够以纳秒级开销实时监控并拦截智能体跨越授权边界的工具调用与数据交互，成为企业级安全可靠智能体调度的基石标准。

查看大图

南方科技大学系统安全研究团队联合发布自主智能体运行时防护框架 ActGov（arXiv:2609.24446）。针对 LLM Agent 在长程复杂任务中调用外部工具时易受不可信输出影响并突破授权边界（如间接提示注入导致恶意删除数据或转账）的核心威胁，ActGov 构建了兼具静态 SMT 形式化验证与动态运行时拦截的双层防护网。系统将工具调用转化为有限策略记录，并在操作生效前进行毫秒级权限边界核验。在业界权威安全基准 AgentDojo 与 AgentDyn 的多模型跨攻击测试中，ActGov 在保持 100% 任务正常可用性的同时，将间接提示注入攻击的成功率压制至近乎为零，显著超越现存所有基于静态提示过滤的防御方案。

查看大图

大模型安全与对齐权威研究团队在 Hugging Face 与 GitHub 正式开源了《Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures》（arXiv: 2609.29429，GitHub: sumleo/RLCDAlignBench）。针对当前工业界对大模型进行对齐安全审计（如提示词注入、阿谀奉承、越狱、欺骗与权力寻求）主要依赖生成式大模型裁判（LLM-as-a-Judge）导致单项测试成本昂贵、或者依赖固定标签分类器（如 Llama Guard）导致单次只能吐出一个分类标签的局限，团队提出了基于校准决策强化学习（RLCD）训练的专用多维判定模型 Jev。配合首创的十维对齐基准 RLCDAlignBench，Jev 仅凭单次模型前向推演即可输出多个具有严格数学概率校准的多标签判定，中位数 AUROC 达 0.886，评测成本剧降 63 倍。

查看大图

顶尖安全与系统研究团队在 Hugging Face 与 ArXiv 正式公开了《AgentKernel: The Trust-Native Agentic Operating System》（arXiv: 2609.29647）。随着自主 Agent 频繁摄入不可信网络内容并调用高权限系统工具，中间人提示注入（Prompt Injection）、记忆投毒（Memory Poisoning）与工具越权已成为制约智能体落地的最严峻瓶颈。AgentKernel 首次打破将安全寄托于脆弱应用层中间件的局限，从操作系统内核级构建了跨“身份（Identity）、感知（Perception）、认知（Cognition）、执行（Execution）”四大支柱的强制性不可绕过安全边界，将系统级结构安全转化为智能体的生产力倍增器。

查看大图

Google Gemini CLI 于 2026-09-23 将稳定通道推进到 v0.61.0（npm @google/[email protected]）。相对 v0.60.0，本版把间接 Prompt Injection 防护、沙箱文件系统边界与运行时状态隔离、AgentLoopContext 在对象展开时的属性保留，以及显式版本化 Flash 模型 ID 不被覆盖等修复合入稳定线。

查看大图

Context7（@Context7AI / Upstash）发布 Context7 Search：面向编码智能体的 grounding API。一次 GET 即可返回由库作者维护、并经 prompt injection / 恶意代码扫描的官方文档片段，强调比开放网页搜索更安全、更省 Token。免费档每月 1,000 次调用；Pro 每席每月 5,000 次，超出后每千次 10 美元。

查看大图