针对前馈式 3D 高斯泼溅(3DGS)在大视角跨越下渲染质量骤降以及免训练扩散生成式压缩显存算力开销过大的痛点,今日两项重磅视觉与图形学成果给出突破:浙江大学周晓巍、鲍虎军、彭思达团队开源 InfiniSplat v2(arXiv:2610.20341,HF 118 赞),通过冻结几何分支解耦几何与属性预测并引入大角度目标视图监督,在 6 大三维数据集上将平均 LPIPS 与 DISTS 误差分别大幅降低 25.8% 与 32.9%;以色列理工学院推出 H-DDCM(arXiv:2610.18125),用隐式随机哈达玛(Hadamard)字典替代稠密高斯码本,将计算与显存降至 O(d log d) 与 O(d),结合周期性 KV 缓存前缀重编码实现单 GPU 准实时流式生成视频压缩。

核心要点速览

  • ✓浙江大学开源 InfiniSplat v2(HF 118 赞):通过冻结几何分支解耦几何与属性预测并结合大角度视图监督,在 6 大三维数据集上将有位姿前馈平均 LPIPS 与 DISTS 分别降低 25.8% 与 32.9%
  • ✓在无位姿(Pose-Free)设定下 InfiniSplat v2 同样以平均 LPIPS 0.3026 / DISTS 0.1341 击败 WorldMirror 2.0(0.3757 / 0.1935)与 AnySplat
  • ✓以色列理工提出 H-DDCM:用隐式快速哈达玛变换字典将免训练扩散压缩的计算与显存降至 O(d log d) 与 O(d),结合周期性 KV 缓存前缀重编码实现单 GPU 准实时长视频压缩
浙大 InfiniSplat v2 高赞登顶(118 赞):前馈 3D 高斯渲染感知误差骤降 32.9%,以色列理工 H-DDCM 哈达玛码本实现单卡准实时视频压缩
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

在三维场景实时重建与超低码率视觉传输领域,前馈式 3D 高斯泼溅(Feed-Forward 3D Gaussian Splatting, 3DGS)与免训练扩散生成式压缩(Training-Free Diffusion Compression)正面临各自的工程极限:第一,现有的前馈 3DGS 模型虽然能从稀疏输入图像直接预测三维高斯体,但在大视角跨越(Large Viewpoint Changes)下,从预测几何中学习颜色、不透明度与协方差等高斯属性极易与几何误差耦合,导致新视角合成画面出现严重伪影;第二,以 Turbo-DDCM 为代表的基于码本(Codebook)的免训练扩散压缩方法虽然在极低码率下感知质量惊艳,但其依赖的稠密高斯码本(Dense Gaussian Codebooks)在现代大图与视频生成模型的高维潜空间中显存与计算开销呈爆炸式增长,且组合比特流编码难以实时运行。

架构亮点与底层机制

今日在 Hugging Face 斩获 118 赞的浙江大学 zju3dv 团队新作 InfiniSplat v2(arXiv:2610.20341,周晓巍、鲍虎军、彭思达团队)与以色列理工学院(Technion)提出的 H-DDCM(arXiv:2610.18125),分别从“几何-属性解耦训练”与“隐式快速哈达玛变换码本”给出了精妙解法:

  • 浙大 InfiniSplat v2:冻结几何分支解耦 + 大角度目标视图监督:深入剖析了高斯属性学习的退化机理,提出三大核心改进:(1)通过冻结几何预测分支(Frozen Geometry Branch)将三维几何重建与高斯外观属性预测彻底解耦,防止属性梯度破坏几何结构;(2)在训练阶段利用真实相机位姿(Ground-Truth Camera Poses)对预测高斯点进行刚性对齐;(3)引入大角度目标视图监督(Large-Angle Target View Supervision),并揭示仅凭图像重建损失学习到的不透明度(Opacity)能够天然抑制几何不一致的离群点。
  • 以色列理工 H-DDCM:隐式随机哈达玛字典 + 周期性 KV 前缀视频流压缩:彻底抛弃显式存储的稠密高斯码本,改用隐式随机沃尔什-哈达玛字典(Implicit Randomized Hadamard Dictionaries)。借助快速沃尔什-哈达玛变换(FWHT),系统无需在显存中实例化全维字典矩阵,仅需 $O(d \log d)$ 计算复杂度与 $O(d)$ 线性显存开销即可完成高维投影与重构;同时提出免查表字典序编码(Table-Free Lexicographic Coding),并在自回归视频流匹配模型中设计了周期性将最新重构帧重编码为新鲜 KV 缓存前缀(Fresh KV-Cache Prefix)的流式机制,在不消耗额外传输比特的前提下跨片段保留时序上下文。

权威 Benchmark 与实测跑分对比

  • InfiniSplat v2 横扫 6 大三维重建数据集刷新 SOTA(arXiv:2610.20341):在涵盖室内外复杂场景的 6 大权威数据集(DL3DV、ETH3D、NRGBD、Mip-NeRF 360、RE10K、DTU,$N=4,8,16$ 视图均分)上,同一个训练好的 InfiniSplat v2 模型在无位姿(Pose-Free)与有位姿(Pose-Conditioned)两种设定下双双夺冠:在无位姿设定下,平均 LPIPS 降至 0.3026、DISTS 降至 0.1341(大幅优于 WorldMirror 2.0 的 0.3757 / 0.1935 与 AnySplat 的 0.4353 / 0.1939);在有位姿设定下,前馈输出将平均 LPIPS 降低 25.8%(达 0.2472)、将平均 DISTS 降低 32.9%(达 0.1163),全面碾压 ReSplat(0.3333 / 0.1794)与 WorldMirror 2.0(0.3517 / 0.1734)。
  • H-DDCM 单 GPU 实现长视频准实时生成式压缩(arXiv:2610.18125):在图像与视频超低码率压缩基准上,H-DDCM 在保持与稠密高斯码本相当的率-失真-感知(Rate-Distortion-Perception)曲线的同时,将字典显存占用从 $O(d^2)$ 级砍至线性 $O(d)$,在单张 GPU 上实现了长时序自回归视频流的准实时(Close to Real-Time)免训练生成式压缩。

开发者实战落地与开箱指南

浙江大学三维视觉实验室已在 GitHub(https://github.com/zju3dv/InfiniSplat)与项目主页(https://zju3dv.github.io/InfiniSplat2/)开源 InfiniSplat v2,具身导航仿真与数字孪生开发者可直接加载单一通用权重处理任意视角跨度的稀疏图像三维重建;多模态流媒体传输团队则可访问 https://h-ddcm.github.io/ 查阅 H-DDCM 的快速哈达玛变换算子与 KV 缓存前缀滚动刷新方案,将其嵌入现有视频生成大模型构建极低带宽视频通信管线。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读REA 开源爆火:一个 MCP 让 Claude Code / Codex / Cursor 直接逆向二进制、APK 与 Electron 应用,GitHub 近 1.3 万星
立即阅读→