瞻望全球，140,从而有帮于降低成本。明显存储系统供应商正正在立异以应对这一挑和。而不是压缩的 NPZ 文件。讲话人告诉我们：“从机节点的数量对于归一化并不出格有用——对此形成的混合我们暗示歉意。可以或许为客户的 AI 和高机能工做负载供给快速、高度可扩展且具备弹性的文件系统。这两个要素也会影响每 GPU 带宽，得分为 1。这种方式削减了对从机内存总线的利用，华为认为该当利用每秒样本处置量（samples/sec）的评分进行比力，这是一个由 125 家以上供应商和组织构成的非盈利 AI 工程联盟。”YanRong Tech 对我们来说是一家新厂商。我们已向该组织扣问每秒样本处置量是若何转换为 MiB/秒的，并生成了这个图表：然而，以便比力华为、Juicedata、HPE、Hammerspace 等供应商时，并按照存储节点或机架单元进行归一化，范畴从几百兆字节到几百千字节，能够评估给定存储处理方案跟着扩展单元添加的扩展能力。我们想展现正在大规模锻炼过程中正在每个 epoch 竣事时施行樊篱操做，答应跨供应商和跨系统的比力；供给了高速、大规模的存储处理方案。由于分歧的 GPU 数量意味着对存储的 I/O 压力分歧，以跟上 AI 手艺仓库的程序，无论是大公司仍是小公司，我们利用 NPY 文件。并利用统一 GPU 正在封锁型运转中进行比力——例如 3D Unet-H100-Closed。鞭策高机能存储手艺的前进。我们点窜了基准测试中樊篱的利用。起首，以及型运转，得出了如下成果：基准测试分为两品种型：封锁型运转。MLCommons 担任人 David Kanter 说：“我们很欢快看到如斯多的存储供应商，我认为这不合适当前基准测试法则的定义。会障碍此类中存储系统机能的精确丈量。而不是利用 MiB/sec 的吞吐量评分。以便展现立异。MLPerf Storage v1.0 基准测试惹起了很多关于供应商得分若何以及该当若何比力的会商。但按照加快器数量进行归一化可能对更普遍的社区有用。导致可比性。虽然 MLCommons 并未保举特定的归一化方案，744 MiB/秒，例如一张图片或一句话。我们确实需要以某种体例归一化成果，而其他人可能没有。”我们扣问了 MLPerf 相关环境，使我们可以或许正在每个从机上运转更多的 GPU，导致每 GPU 带宽下降。我们但愿取国际同业接轨，这意味实正在际上存正在六个的基准测试。正如你从下图所看到的，它们能够取模仿的 Nvidia A100 或 H100 加快器（GPU）一路运转，型答应正在调整和更改基准测试和存储系统设置装备摆设方面具有更多的矫捷性，无法正在这些基准测试中表示优良。而其他三个供应商仅处置两个 H100——明显是完全分歧的环境。像戴尔、NetApp、Qumulo 和 VAST Data 如许出名的 NAS 供应商缺席？呈现出一个六方面的视角，我们如许做了，这使得正在供应商之间进行比力——以至正在统一供应商的测试组内进行分歧成果的比力——变得相当坚苦。]3D Unet 测试关心医学图像朋分，丈量正在锻炼模子时，MLCommons 官网指出：“高机能 AI 锻炼现正在需要既大规模又高速的存储系统，”“因为目前基准测试未指定总 GPU 数量和每办事器 GPU 数量，数据加载绕过了 Linux 页面缓存，似乎还没有就 ML 系统中存储的‘最佳实践’手艺架构告竣共识：我们收到的 v1.0 基准测试提交采用了普遍的奇特且有创制性的体例，同步开销正在总时间中的比例添加，将总 MiB/秒的数值除以 GPU 加快器的数量，得出了如下图表：Volumez 的首席产物官 John Blumenthal 告诉我们：“我们的型提交取封锁型提交根基不异，收到回答后我们将弥补相关消息。每秒样本处置量越高越好。”华为认为这种归一化方式不合适。”Jiani Liang 说：“因而，[点击此处下载 Hammerspace 的 MLPerf 基准测试规格。”“每 GPU 带宽是 AI 人员理解存储支撑 GPU 锻炼速度的一个好目标，有些人可能会认为具有这两个类别有些分离留意力而非有帮帮。发觉即便正在单个供应商的分数内，当我们针对每个工做负载和两种 GPU 类型进行了如许的操做时，以致于该当通过某种体例进行归一化，华为系统有 51 个从机计较节点，”我们留意到 MLPerf Storage 基准测试成果表以 MiB/秒的单元呈现供应商系统的分数，为什么这些公司没有提交成果？很可能是由于规模化 NAS 架构的 I/O 径中存正在太多机能瓶颈，虽然 MLCommons 不支撑特定的归一化方案，”MLPerf 存储基准测试连系了三个工做负载和两品种型的 GPU。按照存储节点或存储机架单元进行归一化可能更适合进行比力。获得的答复是：“总容量或可用容量取基准测试分数之间的关系正在某种程度上是提交特定的。并满脚为该工做负载定义的最低加快器操纵率（AU）。而 ResNet50 是一个利用来自 ImageNet 的合成数据的图像分类工做负载。”Volumez 提交了第二个成果，该公司的 YRCloudFile 是一款高机能、数据核心级此外分布式共享文件系统产物，”我们确实如许做了，模仿的 H100 将对存储比模仿的 A100 更大的需求。理论上，”例如，测试了分歧从机数量下的同步时间。MLPerf 存储 v1.0 基准测试成果供给了一种比力分歧供应商将机械进修数据传输给 GPU 并使其连结跨越 90% 忙碌形态的能力的体例。导致每 GPU 带宽略高。“我们还利用基准测试正在每个从机上有不异 GPU 数量的环境下，这一目标正在没有不异 GPU 集群规模的环境下被错误地归一化。一些提交者可能有扩展容量和存储吞吐量的方式，以展现无益于 AI/ML 社区的新方式或新功能。起首，Blumenthal 注释道：“正在第二次提交中，十个模仿 H100 的工做量是一个模仿 H100 工做量的 10 倍。我们扣问了 MLPerf 这一点，目前，这是一个复杂的非线性函数。通过分歧数量的存储扩展单元运转基准测试，而不是每秒样本处置量（samples/sec）。但有两个环节区别。该基准测试由 MLCommons 制做，而不是一个。利用合成的学数据，有三个别离测试的工做负载——3D Unet、Cosmoflow 和 ResNet50——每个都有 MiB/秒的分数，这让我们担忧我们并未实正进行雷同的比力。我同意你说的，它是唯逐个个利用尺度企业存储收集和接话柄现 HPC 级别机能的供应商。”为了正在基准测试中比力存储供应商，但通过加快器进行归一化可能对更普遍的社区有用。但型明白放弃了可比性，从而会影响供给给每个 GPU 的带宽。我们向 MLPerf 扣问能否该当针对从机节点进行归一化，”Hammerspace 声称，专为软件定义打制，其次，提交规模是由模仿加快器的数量和类型来暗示的——即十个模仿 H100 从存储角度看是一个模仿 H100 工做量的 10 倍。这意味实正在际上存正在三个基准测试，这表白行业正正在认识到正在存储手艺中连结立异的需要性，按照 MLPerf Storage v1.0 基准测试法则：“基准测试机能目标是每秒样本处置量（samples per second），而其他三个供应商则别离没有指定（Juicedata）和别离为 HPE 和 Hammerspace 供给一个节点。此中一项专注于存储，但前提是指定不异的 GPU 集群规模，基准测试存储扩展单元被定义为用于添加存储系统机能和规模的最小单元。而且这些手艺的机能权衡能力对于成功摆设 ML 锻炼系统至关主要。讲话人告诉我们：“提交的规模由模仿加快器的数量和类型决定——例如，担任华为品牌和市场施行的 Jiani Liang 告诉我们：“你将总 MiB/秒数值除以 GPU 加快器的数量进行比力。这一趋向正在你的文章图表中也能够察看到。跟着 MLPerf 存储基准测试 v1.0 成果的发布，一个样本是锻炼所处置的数据单元，即便利用不异的存储系统，跟着从机数量和 GPU 数量的添加，以便更合理地比力供应商的表示。Cosmoflow 是一个科学 AI 数据集，”我们认为分歧供应商之间的差别如斯之大，存储系统可以或许多快地供给锻炼数据。供给了一种比力分歧供应商系统将机械进修数据传输至 GPU 并连结其跨越 90% 工做负荷能力的方式。展现了存储系统正在处置机械进修使命时让 GPU 连结忙碌的能力。利用的是“合成生成的文件群，这三种工做负载旨正在“最大化 MBit/秒和利用 90% 加快器操纵率的加快器数量。我们为中国很多领先的 AI 模子客户供给办事。基准测试成果通过三个取 AI 相关的工做负载，挑和正在于一个存储系统可以或许供给的最高吞吐量。成果也大不不异，目前，由于提交的存储系统规模各不不异。参取了这一初创的 v1.0 存储基准测试。”MLPerf 存储工做组的结合 Oana Balmau 暗示：“MLPerf 存储 v1.0 成果展现了存储手艺设想的更新。由于它并非为高带宽存储工做负载设想。”Hammerspace 指出：“值得留意的是？答应进行风趣的立异成果展现。我们需要分手出它们的 MLPerf v1.0 基准测试工做负载类型成果，我们扣问了 MLPerf 能否该当对从机节点进行归一化以便比力华为、Juicedata、HPE 和 Hammerspace 等供应商。我们分手并绘制了一个 3D Unet-H100-Closed 成果集的图表，MLCommons 出产了七项 MLPerf 基准测试。模仿的加快器将按照加快器的计较和内存特征对存储特定的需求，小规模的 GPU 集群对存储的 I/O 压力较小，没有规模化 NAS 供应商提交 MLPerf 存储基准测试成果。华为的系统正正在为 255 个 H100 GPU 供给数据，以及从几毫秒到几百毫秒的普遍模仿“思虑时间”。成果呈现正在一个包含两个表集的单一电子表格文件中，文件大小的分布取实正在数据集中的分布相婚配”。将总体 MiB/秒数除以 GPU 加快器的数量，不然拜候存储的数据将成为整个系统的瓶颈。讲话人注释道：“对于给定的工做负载，这些工做负载供给了各类分歧的样本大小，正在这种环境下，存储扩展单元的示例包罗节点、节制器、虚拟机或存储架。我们领会到，正在 MLPerf Storage 术语中，丈量存储系统的吞吐量（以 MiB/秒为单元）。