NAND闪存技术如何重塑AI时代的数据中心存储

作者：闪迪公司工程高级副总裁 Mrinal Kochar

人工智能（AI）重塑了数据中心架构的设计格局，并对数据处理与存储在性能、复杂性和成本等方面提出了新的挑战。尽管GPU、CPU和AI加速器频繁受到媒体关注，但是存储正在经历属于自己的复兴。无论是配置与优化方式，还是数据中心机架内的物理部署位置，都在发生深刻的变革。

而NAND闪存则是上述讨论的核心，原因在于其构建了高密度、非易失性的数据通路，并为AI模型训练、数据流转和推理提供支持。企业级固态硬盘（eSSD）在其中扮演着尤为重要的角色。基于NAND闪存技术的eSSD可提供当今超大规模计算环境所需的数据密度、可靠性、吞吐量和耐久度。

在这一背景下，数据中心eSSD正朝着两个截然不同的方向发展。第一种方向是计算优化型eSSD，其部署位置更靠近GPU，以满足高性能工作负载须高速、低延迟访问大型数据集的要求。计算优化型eSSD还应对呈指数级增长的键值缓存（KV Cache），这类缓存既需要大容量存储，也需要计算级性能。第二种发展方向是容量优化型eSSD，通过平衡大容量数据存储与闪存的速度及可靠性，服务于为GPU大规模提供数据的密集型数据湖。这两类新兴的NAND闪存层级，正在为支持AI应用的基础设施奠定重要基础。

全新设计挑战：AI时代的数据分层

传统数据中心设计通常会形成一种相对统一的层级，其中基于NAND闪存的eSSD同时支持时延敏感型和通用型存储需求。然而，由于目前AI数据管道的工作负载日趋多样化，这种模式已不再适用。对数据中心架构师而言，其面临的挑战已从数据部署扩展到了数据分层。

这是因为AI工作负载涵盖了从数据摄取、准备，到训练和推理等多个阶段，而每个阶段对性能和容量的要求各不相同。例如，AI模型训练需要持续的吞吐量，以及对大型数据集的并行访问。AI推理则会引发更碎片化的访问模式，通常需要更小规模、更高频的数据读取，更加注重数据上下文信息的保留。这就需要采用新型配置，以便在同一部署环境中兼顾高性能和大规模的数据存储。

这种演进也体现在物理部署层面。存储设备不再局限于单一位置。时延敏感型数据应紧邻计算节点部署；容量密集型数据则可被解耦并重新分区。在远程网络存储等部署场景中，数据甚至可以被迁出紧邻的计算区域。

在此背景之下，数据中心工程师不只是负责搭建系统，还需要规划、分配全新的数据存储布局方式。在此过程中，他们必须决定哪些数据应部署在靠近计算节点的位置，哪些数据被部署在其它位置，以及各个存储层级如何在实际工作负载下协同运作。

近计算eSSD：为GPU提供数据支持

靠近计算的NAND闪存，通常被称为计算型eSSD，部署在高价值GPU和加速器附近，并可通过相关技术，绕过CPU与系统内存实现直接访问。此类固态硬盘专为在高并发场景下支持低延迟、高IOPS和稳定性能而优化，以应对模型加载、检查点保存和推理缓存等应用场景的需求。在这些应用场景中，延迟会直接影响系统吞吐量。

随着访问模式逐渐向更小的数据单元及更频繁的访问转变，AI工作负载也在进一步推动上述需求。为了满足更精细、响应速度更快的存储需求，计算型eSSD通过同一种固态硬盘架构去承接两类截然不同的应用场景。最初，计算型eSSD负责处理AI模型训练中的数据流转和检查点保存。然而，随着推理与AI智能体的日益普及，以及模型和参数规模的爆发式增长，键值缓存卸载作为第二类应用场景应运而生，现已成为NAND闪存在AI数据中心领域里最强劲的发展机会之一。

正因如此，计算优化型NAND闪存常被视作内存层级的延伸。通过作卸载下来的键值缓存的大容量存储池，这类NAND闪存占据了DRAM和传统存储之间的生态位，并助力AI基础设施扩展上下文窗口超越封装内存的物理限制。

大容量NAND闪存：扩展数据湖

另一方面，大容量NAND闪存支撑着AI数据湖的快速发展。AI未必催生新的数据类型，但却改变了数据的访问方式。AI训练通常需要高速读取整个数据集，而非仅查询子数据集。因此，“高速”数据湖应运而生，其数据吞吐量和可访问性与存储容量同等重要。

大容量eSSD专为存储密度和能效而优化。其价值核心指标不再是延迟，更在于单位功耗下可存储和传输的数据量。因此，容量优化型eSSD尤其适用于成本、空间和能耗预算有限的大规模“冷”数据存储场景。

不过在某些情况下，随着数据访问频率的提升，原本的“冷”数据正在逐渐升温。对于此类场景，相较于闪存与机械硬盘相混合的传统分层架构，全闪存解决方案能够更好地满足数据访问需求。在此背景下，NAND闪存密度的提升正在改变行业格局，使基于闪存的数据湖在大规模部署时，可以兼顾容量和效率。

QLC NAND闪存技术与规模化经济效益

NAND闪存，尤其是四层单元（QLC）NAND闪存，是此次数据中心转型的关键。QLC通过在每个存储单元容纳4比特数据（对应16个电压状态），显著提升了存储密度。尽管其性能不及部分高端NAND闪存，但其价值在于规模化部署后可实现更低的每比特成本和更高能效。

这些特性让QLC闪存成为容量优化型存储的理想之选。它使数据中心能够将多块机械硬盘整合为单个闪存设备，从而同时减少物理占用空间与能耗。

同时，QLC闪存还支持分层更精细的内存架构。无需依赖单一存储设备，架构师即可为不同工作负载分配不同层级的NAND闪存。高性能NAND闪存可专门用于近计算侧任务，而基于QLC闪存的存储设备则可支持数据湖和大规模存储需求。

专为功耗、密度与扩展而设计

如今，功耗对于AI基础设施建设的影响，已不亚于物理占用空间。随着GPU集群规模的不断扩大，每瓦特电力都成为了至关重要的资源。

存储设备的评估标准也因此改变。性能固然重要，但能效如今已成为关键考量因素。许多情况下，数据中心会优先选用每瓦特下能提供最大容量或带宽的存储解决方案，而非单纯追求峰值性能。

存储密度是另一项重要考量因素。NAND闪存与封装技术的升级，有助于在既定空间内显著提升存储容量。这使数据中心在扩展存储规模的同时，无需按比例增加功耗和散热投入。

不过，以上优势也带来了新的规划标准。架构师必须仔细权衡该如何配置存储资源、如何随时间推移扩展规模，以及如何与现有基础设施集成。资源配置不足仍是常见挑战，尤其是在增长预估偏低且扩展路径模糊的情况下更为突出。

重新思考AI数据中心的内存层级架构

计算优化型与容量优化型NAND闪存的出现，折射出数据中心设计层面更广泛的变革。

存储不再是仅用于存放数据的被动层。通过影响计算资源的利用效率及AI工作负载的扩展效果，存储可以决定系统的性能。

此种趋势催生了重新评估数据中心内存层级架构的需求——不再沿用传统存储架构，新架构会以部署就近性、工作负载适配性及数据传输为核心导向。同时，这也将问题从部署多少存储，扩展到了存储应部署在何处。

随着AI更新迭代，那些敢于挑战常规、并调整策略以区分近计算存储与大容量存储的架构师，可以更好地构建出兼具可扩展性与高效性的数据中心基础设施。