浪潮信息联合英特尔发布新一代AI服务器，支持8颗Gaudi2加速器

北京2023年7月12日 /美通社/ -- 7月11日，浪潮联合浪潮信息联合英特尔发布面向生成式AI领域创新开发的信息新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的英特Gaudi2加速器，具备高性能、布新高扩展、支持高能效和开放生态等优点，加速将为AI客户提供强大的浪潮联合大模型训练和推理能力。

浪潮信息NF5698G7

浪潮信息NF5698G7在6U空间支持8颗基于开放加速模组OAM高速互联的Gaudi2 AI加速器，每颗Gaudi2芯片配置96GB HBM高速内存，英特共提供2.1Tbps的布新P2P互联带宽，支持全互联拓扑，支持满足大模型训练张量并行的加速通信需求；搭载2颗第四代至强处理器，支持AMX/DSA等AI加速引擎。浪潮联合Gaudi2是信息英特尔推出的深度学习加速器，以多方位性能与能效比提升，英特为业界提供了高性能、高性价比的AI算力选项，在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基准测试中，均取得了优异的性能表现。

NF5698G7采用高扩展设计，支持12个PCIe5.0 X16的IO扩展，最大支持4800Gbps节点间互联带宽，满足大模型流水线并行和数据并行的通信需求，可扩展至万卡AI集群。NF5698G7通过精细化分区、智能散热调控、12V & 54V N+N双输入供电等创新设计，实现高功率负载动态匹配和低电源功率损耗，系统功耗降低8%。

NF5698G7基于全球开放计算OCP开放加速器规范 OAM/UBB进行产品设计，支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行开发工具，为生成式AI提供成熟、高性价比的开放生态产品方案。NF5698G7支持浪潮信息的AI算力资源平台AIStation，通过对计算资源、数据资源、深度学习软件栈资源进行统一管理，有效提升大模型算力平台的使用效率，助力客户加速AI大模型开发与部署。

浪潮信息高级副总裁、AI&HPC产品线总经理刘军表示："NF5698G7为生成式AI应用提供了极具吸引力的AI算力平台，我们与英特尔紧密协作，优化了NF5698G7在多种生成式AI场景的性能表现，为AI客户提供强大的大模型训练和推理能力，加速AIGC创新步伐、赋力生成式AI产业创新。"

英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示："英特尔致力于提供基于至强处理器和 Gaudi 深度学习加速器的业界领先的人工智能解决方案，以及开放、安全且易于编程的软件，降低AI应用门槛，让AI惠及所有人。对寻求高性能和高性价比的客户来说，浪潮信息 NF5698G7 是绝佳选择。我们将继续与浪潮信息合作，在人工智能时代不断创新。"

浪潮信息是全球领先的AI服务器厂商。据IDC数据报告显示，浪潮信息在中国AI服务器市场份额连续六年保持第一。

最新评论