谷歌回收退役服务器 DDR4 内存用于 AI 服务器，内存瓶颈正在重塑算力基础设施

据 IT之家 9 月 2 日援引 Wccftech 报道，在 DRAM 供应持续紧张的背景下，谷歌正在把退役服务器重新纳入供应链：拆解其中仍可使用的 DDR4 内存模组，并通过专用硬件转接方案部署到部分新型 AI 服务器中。谷歌供应链基础设施高级总监尼基尔·切里安近日在峰会论坛上表示，人工智能产业已经快速从“算力受限”转向“内存受限”，单台典型 AI 服务器中，高性能内存占物料清单成本的比例已达到约 75%。这意味着，对 AI 基础设施而言，GPU、TPU 等计算芯片之外，内存正成为决定部署成本、供给速度和系统设计的重要变量。

从 DDR5 回到 DDR4：谷歌为何拆退役服务器

来源显示，谷歌为缓解内存资源紧缺，正在从硬件和软件两端同时推进优化。在硬件侧，谷歌并非只是采购更多新一代内存，而是建立了一套内部循环利用机制：将退役服务器调回机房，拆解并回收其中仍具使用价值的元器件，尤其是 DDR4 内存模组。

更值得关注的是，谷歌还设计了专用硬件转接卡，使 DDR4 等上一代内存方案能够接入其新一代 AI 服务器。这意味着在某些应用场景下，谷歌可能不再坚持完全使用原本规划的 DDR5 内存，而是选择在性能、成本、供应可得性之间做折中。

这种做法并不等于旧内存可以无差别替代新内存。DDR5 在带宽、能效和平台适配上有其优势，而 DDR4 更多可能出现在对极致带宽要求相对较低、但对容量和成本敏感的环节。对于超大规模数据中心而言，只要系统架构允许，把可用内存资源重新投入生产环境，就可能缓解短期供应压力，并降低部分服务器的总体部署成本。

AI 基础设施的矛盾：不只是芯片不够，内存也不够

过去两年，行业讨论 AI 基础设施时往往聚焦高端 GPU、专用加速器和先进制程产能。但谷歌高管的说法揭示了另一个现实：随着模型参数规模、上下文长度、推理并发和数据预处理需求提升，内存容量、带宽与成本正在同步变成瓶颈。

来源提到，在典型 AI 服务器中，高性能内存成本占比已高达约 75%。这一比例说明，AI 服务器的成本结构正在发生变化。即便计算芯片供应得到改善，如果 HBM、DDR 等关键内存仍然短缺，整机交付和集群扩容仍会受到限制。

• 训练与推理都依赖内存体系：训练需要高带宽内存支撑大规模参数与中间状态，推理则在长上下文和高并发场景下面临 KV 缓存压力。
• HBM 与 DDR 分工不同：HBM 更贴近加速芯片，强调带宽；DDR 则可承担更大范围的数据处理、缓存和系统侧任务。
• 供应链弹性成为竞争力：回收退役服务器元器件看似“节流”，本质上是云厂商为 AI 扩张建立更灵活的资源调度能力。

TPU8i 与软件优化：谷歌在降低单位算力内存开销

IT之家注称，面向模型推理任务优化的 TPU8i 芯片采用专用分层存储体系，在整机层面依托高速 DDR5 内存体系结构，用于处理数据预处理等任务；同时，每颗 TPU 8i 芯片搭载 288GB HBM3e 高带宽内存。这说明谷歌并不是简单“降级”内存，而是在不同层级、不同任务中组合使用多种存储资源。

与此同时，谷歌还在持续优化底层函数库、模型架构以及 KV 缓存压缩算法，以降低单位算力下的内存开销。对大模型推理来说，KV 缓存往往会随上下文长度和并发请求增长而迅速占用显存或高带宽内存资源。若压缩算法和模型结构能减少这部分开销，就等于在不增加同等硬件投入的情况下提升服务承载能力。

影响解读：AI 竞争进入“全栈降本”阶段

谷歌回收 DDR4 内存的动作，释放出一个信号：AI 基础设施竞争已不再只是购买更多先进芯片，而是进入全栈资源优化阶段。从服务器拆解、硬件转接、内存分层，到函数库优化、模型架构调整和缓存压缩，云厂商正在把每一层可节省的资源都纳入工程体系。

对中文科技产业读者而言，这一趋势值得关注。未来 AI 服务成本下降，未必只来自下一代芯片性能提升，也可能来自更精细的内存管理、更高效的推理架构，以及数据中心资产的再利用。对于模型厂商和企业用户来说，内存效率将成为评估 AI 系统性价比的重要指标；对于硬件供应链来说，DRAM、HBM 与服务器平台的协同能力，也会进一步影响 AI 产业的扩张速度。