📰 X discussion: an indie developer compiles an NPU into Qwen3.5-4B weights and runs Karpathy's stories260K, an LLM inside an LLM
A widely discussed experiment on X: on Oct 31 indie developer div (@divagr1925) showed QwenPU, which compiles a 32-bit RISC-V CPU plus a vector unit directly into the weights of Qwen3.5-4B and runs Andrej Karpathy's 260K-parameter stories260K inside the model's own forward passes, matching a…
💬 What's your take? Join the discussion in the comments.
Read the original Chinese version
📰 X 热议:独立开发者把 NPU“编译”进 Qwen3.5-4B 权重,让 Karpathy 的 stories260K 在模型里跑模型
X 上正在热议的一个实验:独立开发者 div(@divagr1925)10 月 31 日发帖展示 QwenPU,把一颗 32 位 RISC-V CPU 和一个向量单元直接“编译”进 Qwen3.5-4B 的权重,在模型自己的前向传播里运行 Karpathy 的 2.6 万参数小模型…
💬 你怎么看?欢迎在评论区讨论。
#X discussion #Qwen #QwenPU
0 Comments
