端侧算子自动生成首个统一基准：EdgeKernelBench 联合 LEKA 智能体攻克异构硬件代码生成

核心背景与行业痛点

近年来，利用大语言模型（LLMs）自动编写高性能算子（如 OpenAI Triton、CUDA C++、TileLang 等）在云端数据中心取得了令人瞩目的进展。然而，当技术尝试下沉至端侧与边缘设备（智能手机、移动芯片、具身机器人与汽车智驾芯片）时，遇到了前所未有的工程天堑：第一，硬件异构性极强，边缘芯片涵盖不同指令集的 CPU、能效比各异的移动 GPU 以及各种非标 NPU；第二，软件编译栈严重碎片化，各个厂商拥有互不兼容的私有 SDK，缺乏通用的高性能内核抽象；第三，端侧资源极其受限，对显存带宽、片上 SRAM 与功耗极度敏感。现有的评测基准（如 KernelBench）几乎全部围绕服务器级云端 GPU 构建，业界极度缺乏一个能公平衡量大模型在端侧各异构后端上自动写算子能力的统一标尺。为此，研究团队在 arXiv:2610.24648 中推出了 EdgeKernelBench 与配套的 LEKA 智能体。

架构亮点与底层机制

1. 基于统一中间表示（IR）的分层评测管线：

• 团队摒弃了让大模型为每一种硬件直接手写互不兼容原生代码的低效做法，引入了基于 TVM 等工业级编译栈的统一 IR 抽象机制；
• 涵盖 331 项经典 PyTorch 计算范式，延展出跨越计算模式复杂度与应用领域的 650 个严格基准实例；

1. 多硬件后端覆盖验证：

• 全面覆盖 CPU/LLVM、移动/边缘 GPU/CUDA 以及跨厂商的 GPU/OpenCL 环境，提供包含功能正确性校验与硬件实测性能测速的自动化沙盒；

1. 分层端侧算子生成智能体（LEKA）：

• 实验揭示出“单次 Prompt 直接生成”在端侧的彻底失效（强模型在 650 项任务中仅有 25.5% 能达到基准性能 [email protected]）；
• LEKA 架构将算子优化决策沿 IR 层级进行垂直解耦，由架构级 Agent、调度优化 Agent 与边界对齐 Agent 协同推进，各司其职。

权威 Benchmark 与实测跑分对比

论文依托 EdgeKernelBench 对全球 5 款主流代码大模型展开了系统性评测（Section 4, Table 2, Figure 4）：

• 基础编译与正确率表现（Compile@1 & Correct@1）：
• 顶级大模型在一轮生成中的代码编译通过率为 73.5%，数值计算正确率为 64.5%；
• 但达到或超越专家手工优化性能的比例（[email protected]）仅有 25.5%，凸显端侧底层内存局部性调优的极高门槛；
• LEKA 智能体性能飞跃：
• 引入分层协作智能体 LEKA 进行多步迭代搜索与反馈重构后，高性能合格算子的产出率提升了 2 倍以上，并在 OpenCL 跨平台编译上展现出卓越的鲁棒性。

开发者实战落地与开箱指南

• 技术论文与基准开源：详阅 arXiv:2610.24648；
• 端侧 AI 编译工程师建议：针对移动芯片、端侧大模型本地部署与具身智能机器人算子优化的工程团队，应积极拥抱 EdgeKernelBench 确立的统一 IR 编排规范，借助 LEKA 分层多智能体协同流水线替代昂贵的手工算子调优，快速挖掘异构边缘硬件的极限算力。