AI 编程实时动态与要闻

多所顶尖研究机构在 arXiv:2610.26825 中正式推出原生记忆基础模型架构 MemT-1.0。针对传统大模型依赖庞大外部 KV Cache 或外挂 Vector RAG 导致的长文本显存爆炸与检索断层痛点，MemT-1.0 将记忆内化为模型计算的原生组成部分。基于 Metis 框架，模型采用 Gated DeltaNet-2 结合轮内稳定的 Token 级记忆更新机制，并引入 Mixture-of-Storage 结构拓展原生记忆容量。在 340 亿 Token 数据持续预训练与对齐后，MemT-1.0-Nano 在 128K 超长历史下实现 1.86 倍推理加速与惊人的 66 倍持久存储削减，显著提升复杂智能体长程任务成功率。

查看大图

前沿 AI 初创公司 Inception 联合创始人 Stefano Ermon 宣布正式推出新一代扩散架构大语言模型 Mercury 3。模型在 NVIDIA GPU 上实现高达 1,068 Token/秒的超高生成吞吐，参数量达到前代 Mercury 1 的 40 倍并支持 100 万（1M）Token 原生上下文。在 IFBench、GPQA Diamond 与 SWE-Bench Atlas 基准上全面对标前沿闭源基线，输入/输出百万 Token 标准定价为 0.20 / 0.70 美元（上线期半价优惠仅需 0.10 / 0.35 美元）。

查看大图

循环神经网络与共享层循环大模型（Looped LMs）支持简单 Token 少循环、复杂 Token 多循环的深度自适应推理，但变长层数导致标准 vLLM 等拼批系统彻底失效。慕尼黑工大与帝国理工学者提出“连续深度批处理”（Continuous Depth Batching, CDB）。通过循环步间动态重组批次、循环 KV 缓存管理以及基于置信度的提前退出异步预测，实现在单一 GPU 内多序列并发执行不同循环深度，在 Ouro 和 Huginn 模型上榨干高达 99% 的理论上限加速比。

查看大图