浪潮元脑R1推理服务器NF5688G8是基于浪潮信息全新一代AI超融合架构平台,面向超大规模数据中心的强劲性能、扩展人工智能服务器,算力密度6U空间内搭载1块NVIDIA Hopper架构HGX-8GPU模组,系统支持4.0Tbps网络带宽,支持FP8原生精度下单机部署DeepSeek 671B大模型。
浪潮元脑企智DeepSeek一体机NF5698A7服务器原生支持FP8计算引擎,以1536GB HBM3显存、5.3 TB/s 内存带宽实现了显存容量与通信效率的黄金组合,适配 DeepSeek R1模型“短输入长输出、显存带宽敏感”的技术特性,单机支持全量DeepSeek R1与V3模型推理情况下,仍保留充足的KV缓存空间。
浪潮信息此次创新不仅突破了大模型推理的显存瓶颈,更通过元脑R1服务器的性能,为金融、制造等千行百业提供了可靠的智能算力支撑。
近期,中科可控凭借技术实力与创新能力,成功入围《中国大唐集团有限公司2024-2025年度自主可控办公电脑长协采购-海光技术路线项目》。