免费xxx8888|秋霞成人午夜鲁丝一区二区三区|久久视频这里只精品10|歪漫漫画网页入口|久久91超碰色中文字幕总站|和老师C了一节课|月夜直播APP 下载

  • 中文科技資訊 CWX中文科技資訊官方網站!

華為“網絡+”破局模型:為十萬卡智算集群通信瓶頸破局賦能

   時間:2025-10-26 15:07 來源:快訊作者:蘇婉清

第22屆中國計算機大會(CNCC2025)在哈爾濱拉開帷幕,這場以“數智賦能,無限可能”為主題的科技盛會吸引了眾多行業目光。華為數據通信產品線研究部部長鄭曉龍在會上發表了題為《大模型推理加速與演進:網絡如何破局?》的演講,首次提出“網絡+”破局模型,為解決十萬卡智算集群面臨的通信瓶頸問題提供了全新思路。

鄭曉龍指出,在單卡算力提升逐漸放緩的當下,通過跨層協同網絡、計算與存儲資源,才能將集群效率推向新的高度。華為提出的“網絡+”破局模型,正是為了系統化解決超大規模智算集群中的通信難題,為下一代智算基礎設施建設提供完整技術路徑。

隨著DeepSeek推動大模型架構向更稀疏的大EP部署演進,通信模式發生了顯著變化,呈現出更強的隨機性和非對稱性。華為通過引入網絡級負載均衡技術,成功應對了這一挑戰,使通信性能提升超過20%,同時顯著降低了P99完成時間。

當前,大模型應用正從聊天式的Chat LLM向具備自主決策能力的Agentic AI轉型,對token生成速度的要求從50ms提升至10ms以下。這一轉變帶來了諸多挑戰:推理階段以小消息通信為主,控制面時延占比高;若單純卸載控制面,又會消耗計算資源SM。為此,華為推出了CloudMatrix384超節點及配套的超節點網絡,為滿足極致的TPOT需求提供了解決方案。

在多模態大語言模型(LMM)流量混戰的背景下,華為強調“網絡+”并非簡單的帶寬升級,而是要讓網絡成為AI集群的“第七代算力”。通過智能化的網絡調度策略,華為成功提升了推理性能,實現了“四兩撥千斤”的效果。

演講最后,鄭曉龍呼吁業界共同參與標準建設,與合作伙伴及行業組織攜手,共同定義大模型時代的下一代智算網絡接口,推動整個行業向更高水平發展。

 
 
更多>同類內容
全站最新
熱門內容