- 揭開神秘面紗,《不思議迷宮》爆炸南瓜岡布奧技能圖鑒
- 重要聲明,《不思議迷宮》格斗家岡布奧技能圖鑒
- 揭開射手奧秘,《王者榮耀》黃忠英雄屬性圖鑒介紹
- 探索城市演變的藝術(shù),《皇帝:龍之崛起》房屋介紹
- 探索更多信息,《不思議迷宮》西洋棋岡布奧技能圖鑒
- 全新英雄解析,《王者榮耀》大喬圖鑒介紹
- 玩家必讀的選擇指南,《流放之路》3.2版本正火武器選擇指南
- 探索多種盈利策略,《皇帝:龍之崛起》賺錢方法
- 揭秘英雄力量,《幻想全明星》阿爾泰爾技能詳解
- 信息公告,《不思議迷宮》利爪岡布奧技能圖鑒
聲明:本文來自于(ID:ykqsd.com)授權(quán)轉(zhuǎn)載發(fā)布。
IT之家 3 月 10 日最新消息,華為技術(shù)有限公司與北京大學(xué)高性能計算校級公共平臺共同宣布,2025 年 3 月 9 日,北京大學(xué)聯(lián)合華為發(fā)布全新 DeepSeek 全棧開源推理方案。
該方案以北大自研的 SCOW 算力平臺系統(tǒng)為基礎(chǔ),結(jié)合鶴思調(diào)度系統(tǒng),并整合了 DeepSeek、openEuler、MindSpore 以及 vLLM / RAY 等社區(qū)開源組件。方案實現(xiàn)了在華為昇騰架構(gòu)上的高效推理,并支持大規(guī)模算力集群的訓(xùn)推一體化部署。所有開發(fā)者均可自由獲取源碼并進行二次開發(fā),性能表現(xiàn)與華為的閉源方案相當接近。
該全棧開源方案的其他版本 DeepSeek-R1-w8a8在硬件配置上采用 2 臺 Atlas 800I A2 處理器,支持輸入長度 4096、輸出長度 1024,系統(tǒng)輸出吞吐量為 11981288,最高并發(fā)用戶數(shù)達 128128。
目前,該方案已在未名卓越一號集群中成功部署運行。該集群由北京大學(xué)計算中心負責(zé)研制與運維,為北大鯤鵬昇騰科教創(chuàng)新卓越中心提供算力支持。IT之家了解到,這是基于高校自研基礎(chǔ)軟件的國產(chǎn)智算平臺的首個實例,于 2024 年 11 月 18 日正式上線運行,初期集成 20 臺昇騰 AI 服務(wù)器和 10 臺鯤鵬通用服務(wù)器,其中 AI 算力規(guī)模達到 30.64 PFlops(半精度計算)。
此次發(fā)布的 DeepSeek 推理方案在 openEuler 開源操作系統(tǒng)層面進行了全面性能優(yōu)化,通過異構(gòu)調(diào)度負載感知 MoE 冷熱專家,實現(xiàn)了更細致的任務(wù)調(diào)度;通過異構(gòu)融合高效管理內(nèi)存,降低系統(tǒng)內(nèi)存碎片;利用畢昇編譯器進一步優(yōu)化,減少了算子下發(fā)耗時,從而提升了整體推理性能。
算力集群全棧開源推理方案架構(gòu)圖
2025年國防支出,解放軍和武警部隊代表團發(fā)言人:2025年國防預(yù)算安排1.81萬億元 數(shù)千億美元欺詐揭露特朗普政府...,驚人的發(fā)現(xiàn)!馬斯克揭露數(shù)十億美元假合同,特朗普:大量協(xié)議成騙局,政府將面臨大規(guī)模裁員 NBA太陽隊 conquest太陽隊 vs 獨行俠KD 32+10+7241,太陽隊以64分擊敗獨行俠,杜蘭特21+9+8打破德克紀錄,成為歷史第8人 月球著陸器雅典娜著陸失敗太陽能中斷關(guān)鍵任務(wù)完成南極近點記錄,月球著陸器"雅典娜"著陸時側(cè)翻任務(wù)提前結(jié)束 破局·星火,星門計劃背后的暗網(wǎng)項目:這家創(chuàng)業(yè)公司如何操作? 航空,2025年首兩個月,空客交付量降幅顯著 哈登準三雙加時賽制勝,哈登29分9籃板11助攻,近10年首次創(chuàng)下單場灌籃神跡,聯(lián)盟無人能及 “空中交通管制員的關(guān)鍵職責(zé)”,塔臺上的“她”力量 最颯女管制員 未定事件簿拼圖活動,《未定事件簿》雪照夏時玩法介紹一覽 證監(jiān)會財務(wù)造假調(diào)查進展,東方集團財務(wù)造假,大華會計師事務(wù)所財務(wù)造假頻繁發(fā)生?