当前位置: 纯净基地 >  微软资讯 >  NVIDIA Storage Partner Validation Program:简化企业AI部署2021最新

NVIDIA Storage Partner Validation Program:简化企业AI部署2021最新

更新时间:2024-03-25 21:37:27作者:czlaby
全球企业正在为NVIDIAOVX 计算系统提供多种经过NVIDIA验证的存储选项。NVIDIA Storage Partner Validation Program:简化企业AI部署2021最新

生成式AI部署的急剧增加正在推动各行业企业的业务创新。但这也给他们的IT团队带来了巨大挑战,因为漫长而复杂的基础设施部署周期导致他们无法使用自己的数据快速启动AI 工作负载。

为了帮助克服这些障碍,NVIDIA推出了针对 NVIDIAOVX 计算系统的StoragePartner Validation Program。率先完成NVIDIAOVX 存储验证的高性能存储系统包括DDN、DellPowerScale、NetApp、PureStorage 和WEKA。

NVIDIAOVX 服务器将高性能GPU加速计算与高速存储访问和低延迟网络相结合,可应对一系列复杂的AI和图形密集型工作负载。例如,聊天机器人、摘要和搜索工具需要大量数据,而高性能存储对于更大限度提升系统吞吐量至关重要。

为了帮助企业将正确的存储设备与NVIDIA认证的OVX服务器配对,新计划为合作伙伴提供了验证其存储设备的标准化流程。他们可以使用验证NVIDIADGX BasePOD 参考架构存储所需的相同框架和测试。

想要通过验证,合作伙伴必须完成一套NVIDIA测试。测量存储性能以及跨多个参数的输入/输出扩展,这些参数代表了各种企业AI工作负载的严苛要求。这包括不同I/O大小的组合、不同数量的线程、缓冲I/O 与直接I/O、随机读取、重新读取等。

每个测试都会运行多次,以验证结果并收集所需的数据,然后由NVIDIA工程团队审核以确定存储系统是否通过测试。

该计划提供规范性指导,以确保使用 NVIDIAOVX 系统的企业AI工作负载获得最佳存储性能和可扩展性。但其整体设计仍然灵活,因此客户可以定制系统和存储选择,以适应现有的数据中心环境,并将加速计算用于数据所在的任何地方。

生成式AI用例与传统企业应用程序有着不同的要求,因此IT团队必须仔细考虑其计算、网络、存储和软件的选择,以确保高性能和可扩展性。

NVIDIA认证系统经过测试和验证,可为AI工作负载提供企业级性能、可管理性、安全性和可扩展性。与从头开始独立构建相比,这些系统灵活的参考架构有助于提供更快、更高效且更具成本效益的部署。

OVX服务器由NVIDIAGPU 提供支持,服务器中包含NVIDIAAI Enterprise 软件与NVIDIAQuantum-2 InfiniBand 或NVIDIASpectrum-X 以太网,以及NVIDIABlueField-3 DPU。这些服务器针对生成式AI工作负载进行了优化,包括:针对小型LLM(例如Llama 27B 或70B)的训练,微调现有模型,以及高吞吐量和低延迟的推理。

NVIDIA验证的OVX服务器现已推出,包括技嘉、惠普和联想在内的全球系统供应商正在提供支持。在与NVIDIA的协作下,系统制造商能够为这些服务器提供全面的企业级支持。

供应情况

经过验证的NVIDIA 认证OVX服务器存储解决方案现已推出,各个存储和系统供应商将在未来几周内发布参考架构。

(8624620)

相关教程

copyright ©  2012-2024 纯净基地 m.czlaby.com 版权声明