浪潮信息元腦R1推理服務(wù)器已完成對(duì)開源框架SGLang新版本的深度適配,成功實(shí)現(xiàn)在單機(jī)高性能運(yùn)行DeepSeek R1 671B模型時(shí)可支持超過1000路的用戶并發(fā)訪問。

浪潮元腦R1推理服務(wù)器NF5688G7原生搭載FP8計(jì)算引擎,針對(duì)DeepSeek R1 671B模型部署速度快且無(wú)精度損失,1128GB HBM3e高速顯存滿足671B模型 FP8精度下不低于800GB顯存容量的需求,單機(jī)支持全量模型推理情況下,仍保留充足的KV緩存空間。顯存帶寬高達(dá)4.8TB/s,契合DeepSeek R1模型"短輸入長(zhǎng)輸出、顯存帶寬敏感"的技術(shù)特征,在推理解碼階段可實(shí)現(xiàn)加速。在通信方面,GPU P2P帶寬達(dá)900GB/s,保障單機(jī)部署張量并行通訊性能。

SGLang是新興的開源推理框架項(xiàng)目,其得到活躍的社區(qū)支持,并在工業(yè)界獲得了廣泛應(yīng)用。SGlang的核心特性包括:快速的后端運(yùn)行時(shí)、靈活的前端語(yǔ)言、廣泛的模型支持等。尤其值得關(guān)注的是,SGLang針對(duì)MLA注意力機(jī)制開展了針對(duì)性的工程優(yōu)化,并在框架上對(duì)MoE架構(gòu)的推理做了優(yōu)化設(shè)計(jì)。SGLang也是適配DeepSeek v3和R1的推理框架之一。

目前,浪潮元腦R1推理服務(wù)器 NF5688G7已完成SGLang新版本 0.4.3的適配優(yōu)化工作。通過硬件調(diào)優(yōu)、算子優(yōu)化、混合并行、多token預(yù)測(cè)等多方面的工程實(shí)踐,在元腦R1推理服務(wù)器 NF5688G7上運(yùn)行DeepSeek 671B R1模型,成功實(shí)現(xiàn)了單用戶解碼33 tokens/s及用戶并發(fā)超1000的性能表現(xiàn)。