蚂蚁集团旗下具身智能公司灵波科技(Robbyant)11 月 9 日开源触觉基础模型 LingBot-Touch(Apache 2.0),用 JEPA 式潜空间预测和共享 Haptic Transformer,把压阻、磁感、视触觉三类传感器统一成同一套触觉 token。官方技术报告称:在 26 项双臂灵巧手真机任务上,接入冻结的 546 万参数 Tiny 编码器后,Diffusion Policy、π0.5、LingBot-VLA、T-Rex 的平均成功率分别提升 13.9–24.8 个百分点,而直接喂原始触觉信号最多只有约一半收益。Tiny 与 Small 两个权重已上 Hugging Face。

核心要点速览

  • ✓预训练语料 4,983 小时、46.4 万段交互、约 13.3 亿帧,来自触觉手套与遥操作机器人手,覆盖压阻、磁感、视触觉三种原理
  • ✓官方口径:26 项真机任务平均成功率,LingBot-VLA 48.3%→73.1%、π0.5 48.1%→69.9%、T-Rex 45.4%→68.6%、Diffusion Policy 21.6%→35.6%
  • ✓Tiny 编码器仅 546 万参数,给所增强的策略增加不到 0.2% 参数;Small 为 2176 万参数,两者均为 12 层 Transformer
  • ✓仿真 12 项灵巧手强化学习任务中成功率 69%,对比任务专用 CNN 特征 46%、无触觉 21%
  • ✓注意:可迁移到预训练时没见过的传感器型号,但新的传感器排布仍需先做几何标定
蚂蚁灵波开源触觉基础模型 LingBot-Touch:近 5000 小时真实触觉数据预训练,冻结的 546 万参数编码器让 4 种机器人策略在 26 项真机任务上成功率提升 14–26 个百分点
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

机器人操作长期「只靠眼睛」:拧瓶盖、拉拉链、弹出 SD 卡这类接触密集的动作,视觉常被手指遮挡,力度全靠猜。触觉传感器种类又很杂,压阻、磁感、视触觉的排布、分辨率和通道各不相同,过去往往一种传感器训一个模型,经验没法迁移。灵巧手和 VLA 正在加速落地,缺一个通用的触觉表征层。

架构亮点与底层机制

LingBot-Touch 先把各类传感器的触点映射到统一的「标准指尖空间」,再用各模态专属的浅层 tokenizer 接入共享的 Haptic Transformer(带 5D RoPE),以 JEPA 方式在潜空间预测被遮挡的触点表征,而不是重建原始信号。官方解释:触觉帧大部分是没接触的背景,重建原始信号会让模型盯着背景学。输出的 token 保留时间、手指、空间地址,可与视觉、本体状态拼接。

权威 Benchmark 与实测跑分对比

以下均为官方/厂商口径(技术报告 Table 2,每任务 20 次试验):26 项任务里,Sharpa Wave 20 项、XHand1 6 项;四种策略加入 LingBot-Touch 后平均提升 13.9、21.8、24.8、23.2 个百分点,在 104 个任务-策略组合中 89 个最佳。仿真强化学习 12 项任务成功率 69%。官方未公布与其他开源触觉模型在同一真机任务上的对比,FTP-1 仅在探测任务上比较。

开发者实战落地与开箱指南

GitHub 仓库 Robbyant/lingbot-touch 提供推理代码和 Sharpa、XHand 示例数据;从 Hugging Face 下载 lingbot-touch-tiny 或 small 的 config.json 与 encoder.pt,Python 3.12 + PyTorch 2.11 下运行 infer.py 即可得到 token 特征,CPU 也能跑。官方建议用交叉注意力查询读出特征,不要直接做均值池化。适合已有灵巧手和 VLA 策略、想低成本加入触觉的团队。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读X 热议:GPT-6 Astra 是不是机器人的「GPT-3 时刻」?前 OpenAI 研究员 Will Depue 称专用 ML 被「苦涩教训」吃掉
立即阅读→