8月6日，半导体巨头 AMD 刚高调官宣收购了 AI 推理芯片初创公司 Taalas，准备在下一代高吞吐、低延迟的 AI 硬件领域大干一场。

结果不到一个月，社交平台上一位名叫 Progyan 的工程师跳了出来，在 X 上甩出一张“战书”。

这哥们说：

“过去六个月，我把 Taalas 的专利拆得干干净净。

我觉得他们的设计太繁琐了，于是我自己写了一个编译器——只有 7000 行代码。

它能直接把 HuggingFace 上的大模型，一路降解编译成制造芯片用的 RTL 和 GDS 电路图。

我的访存消耗只有 Taalas 的百分之一，你们想不想看 40000 tokens/s 的推理速度？”

更绝的是他帖子的结尾：“我破产了，现在处于失业状态。谁能帮我联系一下晶圆厂，或者提供一下 cheap EuroPTW 7nm 流片的通道？”

一个破产程序员，7000 行代码，六个月时间，准备硬刚一家刚被芯片巨头揽入怀中的明星企业。

这不禁让人产生一种荒诞感：在这个动辄耗资数亿美元、堆叠上百人顶级 IC 设计团队的半导体行业，难道真被一个穷得结不起账的开发者，强行拉进了“车库创业 2.0”版本？

7000行代码的魔法：如何把HuggingFace直接“编译”成芯片？

在传统的半导体设计流程中，从算法意图到最终芯片的距离，比从北京到伦敦的航线还要漫长。

一家典型的 AI 芯片公司，通常需要庞大的架构师团队先定义指令集，前端团队用 Verilog 写逻辑，后端团队跑物理设计，再买下 Synopsys 或 Cadence 价值数百万美元的 EDA 软件许可，进行极其复杂的 DRC（设计规则检查）、Yosys 综合和 PEX（寄生参数提取），最后吐出能够交给台积电流片的 GDSII 文件。这一套折腾下来，几个月时间与千万人民币就烧掉了。

而这位失业工程师做的事情，说白了叫“全自动模型硬化编译”。

按照他的设计流程： 你只需要在 HuggingFace 上挑选一个喜欢的开源模型 checkpoint（比如 Llama 或 Qwen），把它喂进这个大约 7000 行代码的 Python/Rust 编译器里。

编译器会自动完成模型量化（Quantization），随后直接跳过传统 CPU/GPU 那种繁复的通用指令集设计，把模型权重降解（Lowering）到硬件金属层，自动生成 RTL 硬件描述语言，调用开源 EDA 工具（如 Yosys）跑完逻辑综合与寄生参数提取，最后直接输出可以去晶圆厂流片的电路图形。

他在帖子里特别致敬了中国芯片公司寒武纪（Cambricon）早期的学术论文。

当年寒武纪在 ISCA 等顶级学术会议上发表的 DianNao 系列论文，核心思想之一就是打破传统通用架构，用专门的硬件电路直接模拟神经元的矩阵乘加（Mat-Vec）运算。

这套逻辑的核心逻辑极其简明：不要试图去写一个能够运行模型的硬件，而是直接让模型本身变成硬件。

传统的芯片设计是建一座功能齐备的超级体育馆，然后再让各种软件比赛进入馆内跑动；而这哥们的思路是直接根据比赛选手的身材和动作，用硅片一比一铸造一个铜墙铁壁般的“专用模具”。

暴击“内存墙”：为什么要把大模型当成红白机卡带？

为什么直接把模型硬化成电路能跑出每秒 4 万 Token 的变态速度？

要理解这一点，必须提到当代算力面临的最大噩梦——冯·诺依曼架构的“内存墙”（Memory Wall）。

在当今昂贵的英伟达 H100 或者 AMD MI300X 上，限制 AI 推理速度和功耗的，根本不是算术逻辑单元（ALU）算得不够快，而是数据搬运太慢、太贵。

从 HBM（高带宽内存）或 DRAM 里读取一个 64 位的浮点数，所消耗的能量往往是执行一次乘加运算的数十倍甚至上百倍。芯片上绝大部分的功耗，都浪费在了让数据在显存和计算核心之间来回奔跑的“路程”上。

为了解决这个问题，被收购的初创公司 Taalas 提出了一个极其复古又大胆的方案：bitROM（片上权重硬编码）。

Taalas 认为，既然大模型的权重在推理阶段是固定不变的，为什么还要把它们放在 DRAM 或 HBM 显存里？

干脆把权重直接用芯片最顶层的金属互连线“焊死”在硅片里。

这就好比 20 世纪 80 年代我们玩的 FC 红白机游戏卡带。游戏代码和图像数据根本不需要加载到内存里，ROM 芯片本身就是存储介质，插上就能秒开机。

Taalas 的 HC1 芯片，就是把 Llama 3.1 8B 模型的权重直接刻成了硅片卡带，最终实现了单用户每秒 17,000 个 Token 的惊人输出。

而 @plugyawn 则声称自己在量化算法和电路降解上做得更彻底。他通过更高效的非均匀量化与拓扑优化，声称可以比 Taalas 的 bitROM 再减少 100 倍的访存动作（Memfetch），进而把推理速度推向每秒 40,000 Token，每次推理消耗的能量降至皮焦耳（picojoule）级别。

如果这个数据成立，意味着过去耗电几千瓦、需要庞大液冷系统维持的算力中心，未来可能只需要几瓦的功耗，就能在一个巴掌大的边缘设备上，以超越人类阅读速度上百倍的速度吐出文本。

红白机卡带

极速的另一面：无法升级的“硅坨坨”

然而，世界上从来没有免费的午餐。这种将软件模型深度硬化为硬件电路的做法，从诞生之日起就伴随着一个致命的商业诅咒：缺乏通用性与极高的废品率风险。

AI 算法的发展速度，是以“周”甚至“天”为单位演进的。今天 Transformer 架构风靡全球，明天 Mamba 或 SSM（状态空间模型）可能就异军突起；这个月大家还在用 Llama 3.1，下个月 Meta 可能就发布了全新架构的 Llama 4。

如果你花了半年时间，耗费上百万美元，好不容易拿到了用 7nm 工艺制造出来的“Llama-3-8B 硬件专用芯片”，准备在市场上大杀四方。

结果芯片刚出厂，算法圈突然宣布这个模型被淘汰了——你手里这颗算力高达 40000 tokens/s 的芯片，瞬间就会沦为一块极其昂贵、且无法通过软件更新来救场的坨坨。

巨头们之所以死守 GPU 和高带宽显存，不是因为他们不知道硬编码芯片快，而是因为 GPU 具备极强的“软件容错率”。英伟达的 CUDA 生态保证了不管算法怎么变，底层硬件都能通过更新驱动和框架继续打工。

因此，Taalas 模式和这位失业工程师的尝试，本质上是一场赌博：用极致的功耗和速度，去赌某个模型架构在未来几年内具有足够的生命周期和商业装机量。

开源工具链与个人英雄主义的碰撞

虽然商业前景尚存争议，但这件事展现出的技术民主化趋势，却足够让半导体行业感到震撼。

在过去很长一段时间里，芯片设计是绝对的资本密集型游戏。极高的 EDA 软件门槛、昂贵的物理 IP 授权、以及动辄数千万美元的流片费用，构筑起了一座凡人无法企及的高墙。半导体历史上的许多传奇，从仙童半导体的八叛逆，到硅谷早期的创业故事，最终都被垄断在大厂的资本与壁垒之中。

然而在今天，开源 EDA 社区（如 Yosys、OpenLane）、开源 PDK（如 SkyWater 130nm）以及各类多项目晶圆（MPW，即多家公司拼团共享一块晶圆以降低成本的流片模式，如 EuroPTW）的发展，正悄然撕开高墙的一角。再加上 AI 代码生成工具的辅助，单枪匹马的个人开发者已经具备了完成一套完整芯片 Front-to-Back 流程的可能性。

一个失业工程师，靠着公开的专利文档、学术论文和开源工具，就能逼近亿级资本收购的项目性能线。这种“软件吞噬硬件”的趋势，正在抹平算法工程师与芯片架构师之间的鸿沟。

当然，现实依然骨感。帖子的最后那句“I'm broke and unemployed”（我破产了，而且失业了），毫无保留地暴露了硬件创业的终极残酷性。

软件代码跑通了只需要占用几 GB 硬盘，而要把 GDSII 图形变成真正的硅片，他依然需要面对极其现实的物理世界：

一张 7nm MPW 的“车票”可能需要数十万美元，而晶圆厂的 PDK（工艺设计套件）签署保密协议（NDA）的门槛，足矣劝退绝大多数个体户。

大厂拥有雄厚的资金去试错，去买下 Taalas 这样的公司作为技术储备；而个人开发者即便拥有神级的天才构思，也可能倒在凑不齐流片费用的前夜。

硬件的世界很残酷，但这也正是它的魅力所在。当巨头们还在沿着摩尔定律的残躯堆叠显存、修筑算力高墙时，角落里的无名之辈正在用 7000 行代码试图把高墙炸掉一个缺口。

至于这颗尚未下单流片的“40000 tokens/s”芯片最终能否真的问世，或许已经不那么重要了。它至少证明了一件事：在算力通胀的时代，创新的终点绝不仅仅属于庞大的财团，有时也属于那些在深夜里拆解专利、企图颠覆规则的孤独灵魂。