大规模人工智能工厂的新数据架构

今天标志着千兆瓦级人工智能工厂数据基础设施新时代的开始。NetApp Novus 是一种新型存储架构，总吞吐量超过 100TB/s，可保持数十万个 GPU 的生产效率。Novus 专为 ZB 级容量而设计，将元数据和数据分离到可独立扩展的平面中，然后将数千个存储节点统一在单个命名空间中。凭借这些能力，NetApp Novus 将为 Neocloud 运营商、超大规模企业、构建 GPU 云的大型企业和 GPU 即服务提供商提升效率、利用率和盈利能力。

Novus 建立在基于标准的 pNFS 访问之上，因此无需跨 GPU 服务器部署专有客户端，也无需随着内核和 GPU 世代的变化进行生命周期管理。Novus 将 NetApp ONTAP^®的弹性、安全性和多租户功能引入到专为 AI 工厂构建的架构中。

为 50,000 个 GPU 供电的算法

人工智能工厂的数学是严苛的。单个 GPU 可能需要高达 2GB/s 的吞吐量才能保持满负荷运行，而在 50,000 个 GPU 上持续维持这一水平则需要 100TB/s 的累计带宽。传统存储阵列可提供 40 至 80GB/s 的速度。因此，使用传统阵列达到 100TB/s 意味着需要部署 100 多个阵列，每个阵列都有各自的命名空间、故障域和管理开销。运营商最终将不得不运行大量存储系统，并应对复杂的数据移动问题。

盈利能力让 GPU 保持高效运转

对于千兆瓦规模的 AI 工厂，GPU 是资产负债表上最大的资本项目，也是唯一能产生收入的项目。GPU 每花费一个小时等待数据，就是一个小时有折旧而无回报的时间。

这使得充足的 GPU 集群与资源匮乏的 GPU 集群之间的差异对业务至关重要。当存储无法以足够快的速度传输数据以维持 GPU 运行时，AI Factory 的利用率可能会下降到个位数。在这种情况下，我们认为存储瓶颈不再是性能问题，而是利润问题——随着运营规模的扩大，这一问题只会愈发严峻。

消除元数据瓶颈

单靠更多的控制器无法解决问题。即使在容量或带宽限制 GPU 活动之前，元数据也是一个瓶颈。每个打开、查找和布局请求都落在试图提供数据的相同控制器上。工作区导入包括数百万个小文件操作。检查点是由每个节点同时发出的 TB 级顺序写入，直接到达元数据流量突发之后。当您扩展集群时，元数据操作会随之扩展，直到文件系统不可避免地变慢或停止。

很难围绕两种对抗性的访问模式进行设计。小文件元数据流量需要快速处理许多独立操作。检查点写入需要将整个系统专用于一个顺序流。在相同的控制器上同时运行两者，每种模式都会降低另一种的性能。

Novus 将元数据与数据分离，使每者均可独立扩展。为此，我们构建了两个专门的系统，每个系统针对不同的工作进行了优化，并将它们统一到一个系统中。数据存储于企业级 ONTAP 系统上。在第一个版本中，我们将提供高性能 NetApp AFF A90 存储。Novus Data Director 将元数据移入在标准 x86 计算上运行的独立可扩展、软件定义的控制层。客户端向 Data Director 查询文件所在位置，获取布局后，直接与存储进行通信。两个平面互不等待，数据以线速运行。

标准客户端、单个命名空间、多个租户

Novus 通过受支持的 Linux 客户端环境，构建了基于标准的 pNFS/NFS 访问，帮助运营商避免在数千个节点映像、GPU 代和租户环境中部署、修补和验证专有客户端。这旨在消除重复性开销的主要来源，同时为共享的多租户 AI 基础架构保留单一命名空间。

单个命名空间提供操作简便性。当工作负载的数据分布在不同系统中时，必须对其进行移动、重新挂载、重新平衡，并记录每个副本。单个泽字节规模的命名空间消除了这项工作，使数据集、检查点和模型工件随着环境的增长而持续可寻址。Novus 的架构允许运营商在无需强制更改应用程序、执行中断性重新挂载或造成租户中断的情况下扩展容量和性能。Novus 不向每个工作负载暴露存储拓扑，而是呈现一个专为 AI 工厂规模构建的统一数据环境。

在 AI 工厂规模下，共享基础设施只有在信任随性能扩展时才能有效运作。Novus 旨在将 ONTAP 久经验证的安全性、弹性、服务质量和多租户基础引入专为极高并发而构建的单一架构。即使数千个作业争用同一数据平面，提供商也能保持租户隔离、工作负载可预测性以及 GPU 高效运行。

规模是一个动态目标

去年，集群中拥有 10,000 个 GPU 已属庞大规模。今年则是 50,000 个。没有人认为当今的 AI 工厂是最终状态。您所选择的架构不仅要适合当前运行的集群，还要适合三年后将要运行的集群。

Gary Grider，洛斯阿拉莫斯国家实验室计算技术高级总监，如此说道："使我们进入 AI 时代的架构将无法满足我们在持续加速创新过程中对其提出的需求。随着 AI Factory 不断扩展，数十万个 GPU 将冲击单个命名空间，造成大量积压的元数据操作，这将减缓甚至阻碍文件系统的运行。Novus 是一种首创架构，可实现元数据层和数据层的独立扩展，使 AI Factory 能够在不受数据访问能力限制的情况下持续增长。"

Novus 使运营商能够执行的操作

最大限度地提高 GPU 利用率。消除数据瓶颈，持续为高成本 GPU 环境提供数据供给并实现其价值最大化。

独立扩展性能。将高性能数据节点与分解的元数据层配对，并独立扩展每个节点。

提高盈利能力。在专为千兆瓦级 AI 工厂构建的架构上运行多租户、云规模运营模型，助力您提升最昂贵资产的回报率。

AI 工厂已迅速超越了其所构建的架构，迫使运营商转向全新的解决方案。Novus 的设计使未来的增长无需采用新的架构。

NetApp INSIGHT 2026将于9月29日至10月1日在拉斯维加斯举行。观看直播或点播。在NetApp Novus 解决方案简介中了解更多信息。