当算力堆到极限,瓶颈挪到了数据通路上
这两年 AI 算力军备竞赛的焦点,正在从“多少 TOPS”悄悄转向“多少带宽”。大模型推理的解码阶段,GPU 大量时间花在等数据从显存搬过来;训练集群里,HBM 的容量与带宽几乎和 GPU 本身一样抢手。“内存墙”——计算与存储分离带来的带宽和功耗瓶颈——成了业界公开的痛点,也让存算一体这个老概念重新站上风口。
8 月 21 日,这个方向传来一个新节点:据 IT 之家报道,网易孵化的芯片公司谦合益邦宣布,其自研的全球首款 4 层 3D DRAM 堆叠存算一体芯片成功回片并点亮,从技术验证正式迈入工程落地阶段。
这颗芯片做了什么
先看事实层面的几个要点:
- 谦合益邦成立于 2024 年 1 月,由网易孵化,官方介绍称其是国内最早专注于 3D 存算一体、三维集成原生芯片架构和云游戏应用加速的芯片公司;
- 该公司近期刚完成超 20 亿元的 B 轮融资;
- 这颗芯片采用自研的三维集成原生计算架构与 3D DRAM 堆叠技术,首次在全球范围内实现 4 层芯片在垂直方向的高密度集成,把计算单元与存储单元在三维空间里深度融合;
- 官方口径的性能数据是:数据访存带宽较传统方案提升一个数量级,访存功耗和延时同样降低一个数量级。
“回片点亮”在芯片行业里是个有分量的里程碑——流片归来的样片首次通电跑通基本功能,意味着设计、工艺和封装的链路初步闭环。但它离量产、离客户规模导入仍有相当距离,这一点后面再谈。
为什么是“堆叠”,为什么是 DRAM
传统处理器再快,数据仍要从 DRAM 一趟趟搬进缓存、搬进寄存器。业界的主流解法是 HBM:把多层 DRAM 用硅通孔垂直堆叠,紧贴逻辑芯片。但 HBM 的计算和存储终究还是“邻居”,数据仍要过墙。
存算一体则更激进:让计算直接发生在存储旁边甚至内部,数据不必长途跋涉。谦合益邦的路线可以理解为“再往里走一步”——不是在平面上把两颗芯片并排放,而是让 4 层 DRAM 与计算单元在垂直方向原生集成。好处直观:访存路径以毫米级甚至更短的尺度计算,带宽与功耗都随之受益。挑战也同样直观:
- 散热。 DRAM 对温度极其敏感,业内通常要求结温控制在 85°C 以下,而计算单元恰恰是发热大户,两者叠在一起,热设计难度陡增;
- 良率与成本。 层数越多、集成度越高,局部缺陷连坐整颗芯片的风险越大,先进封装的良率直接决定成本曲线;
- 软件生态。 新架构需要配套的编程模型、编译器和算子库,开发者是否愿意迁移,往往比硬件指标更决定生死。
切入点选了云游戏,而不是硬刚大模型
值得注意的是,这家公司的落点除了 AI,还明确写着“云游戏应用加速”。这其实是个务实的选择:云游戏对时延和带宽极度敏感、负载场景相对收敛,是存算一体这类新架构验证商业价值的好切口。比起直接跳进由 CUDA 生态统治的大模型训练红海,从渲染串流这类“带宽饥饿型”负载切入,更容易找到愿意尝鲜的客户。
放到更大的背景里看:过去一年,AI 带动的存储涨价、数据中心电力账单暴涨,都说明“算力-存储-能耗”三角的矛盾正在外溢。市场需要 GPU 之外的选项;对国产芯片阵营而言,在先进制程受限的现实约束下,从封装与架构层面找差异化路径,也是一条被反复论证过的可行方向。
简短点评
4 层 3D DRAM 存算芯片回片点亮,是存算一体路线从仿真走向硅片的关键一步,20 亿元的 B 轮融资也说明资本对这条路线的耐心还在。但对芯片公司而言,点亮只是下半场的开球——散热、良率、工具链、客户导入,每一关都不比流片轻松。这家成立两年多的公司,能不能把“数量级”的纸面优势变成客户可感知的每 token 成本优势,才是接下来真正值得盯的指标。