- 走進沉浸式體驗,空乘人生模擬器平臺介紹
- 探索創(chuàng)意可能,荒野弗利薩捏臉數(shù)據(jù)分享
- 新手必讀指南,《荒野國度》新手陣容搭配推薦
- 職業(yè)新體驗,空乘人生模擬器內(nèi)容介紹-Cabin Crew Life特色解析
- 游戲解密旅程,《彼岸花》第八章通關(guān)攻略
- 自定義角色探索秘訣,荒野格里菲斯捏臉數(shù)據(jù)分享
- 角色創(chuàng)造探索之旅,怪物獵人荒野克勞德捏臉數(shù)據(jù)分享
- 新手必讀,《荒野國度》英雄培養(yǎng)建議
- 下載指南揭秘,空乘人生模擬器下載及安裝教程
- 玩家創(chuàng)意大爆發(fā),荒野薩菲羅斯捏臉數(shù)據(jù)分享
聲明:本文來自于(ID:ykqsd.com)授權(quán)轉(zhuǎn)載發(fā)布。
IT之家 3 月 10 日最新消息,華為技術(shù)有限公司與北京大學(xué)高性能計算校級公共平臺共同宣布,2025 年 3 月 9 日,北京大學(xué)聯(lián)合華為發(fā)布全新 DeepSeek 全棧開源推理方案。
該方案以北大自研的 SCOW 算力平臺系統(tǒng)為基礎(chǔ),結(jié)合鶴思調(diào)度系統(tǒng),并整合了 DeepSeek、openEuler、MindSpore 以及 vLLM / RAY 等社區(qū)開源組件。方案實現(xiàn)了在華為昇騰架構(gòu)上的高效推理,并支持大規(guī)模算力集群的訓(xùn)推一體化部署。所有開發(fā)者均可自由獲取源碼并進行二次開發(fā),性能表現(xiàn)與華為的閉源方案相當接近。
該全棧開源方案的其他版本 DeepSeek-R1-w8a8在硬件配置上采用 2 臺 Atlas 800I A2 處理器,支持輸入長度 4096、輸出長度 1024,系統(tǒng)輸出吞吐量為 11981288,最高并發(fā)用戶數(shù)達 128128。
目前,該方案已在未名卓越一號集群中成功部署運行。該集群由北京大學(xué)計算中心負責(zé)研制與運維,為北大鯤鵬昇騰科教創(chuàng)新卓越中心提供算力支持。IT之家了解到,這是基于高校自研基礎(chǔ)軟件的國產(chǎn)智算平臺的首個實例,于 2024 年 11 月 18 日正式上線運行,初期集成 20 臺昇騰 AI 服務(wù)器和 10 臺鯤鵬通用服務(wù)器,其中 AI 算力規(guī)模達到 30.64 PFlops(半精度計算)。
此次發(fā)布的 DeepSeek 推理方案在 openEuler 開源操作系統(tǒng)層面進行了全面性能優(yōu)化,通過異構(gòu)調(diào)度負載感知 MoE 冷熱專家,實現(xiàn)了更細致的任務(wù)調(diào)度;通過異構(gòu)融合高效管理內(nèi)存,降低系統(tǒng)內(nèi)存碎片;利用畢昇編譯器進一步優(yōu)化,減少了算子下發(fā)耗時,從而提升了整體推理性能。
算力集群全棧開源推理方案架構(gòu)圖
拖錢掃掃帚,《破屋過冬:老人冬天破冰記》 **對決中的挑戰(zhàn)**,弗里克預(yù)測萊萬出戰(zhàn)本菲卡,拉菲尼亞成金球獎競爭者 爭斗的天敵,"內(nèi)部摩擦,但波蘭外長呼吁與馬斯克指責(zé):表達感謝" 美烏會談沙特見證關(guān)系恢復(fù),美烏高官下周將在沙特會面 談些什么? 長時間使用電子設(shè)備對眼睛的影響,陶勇醫(yī)生:4個毀眼習(xí)慣,你可能已經(jīng)正在做,別忽視 31歲博格巴下家,博格巴即將結(jié)束長達18個月的禁賽期,下家會是誰? 文字來找茬擊敗司機攻略,《文字來找茬》懟司機打敗司機通關(guān)攻略 設(shè)計感羊羔毛創(chuàng)新,中年女性如何搭配羊羔毛外套更顯魅力 海上核戰(zhàn)略現(xiàn)代化進程快速推進,金正恩視察朝鮮重要造船廠 2025賽季石家莊功夫改革重塑,河北媒體:石家莊隊調(diào)整較大,新賽季目標沖擊中上游