- 秋季慶典揭幕,星露谷秋季節(jié)日特點(diǎn)介紹
- 復(fù)古動(dòng)漫射擊游戲,Beyond Citadel游戲官網(wǎng)地址
- 龍騰世紀(jì)4怎么體驗(yàn)全部職業(yè)-龍騰世紀(jì)影障守護(hù)者體驗(yàn)全部職業(yè)方法
- 新版本亮點(diǎn),LOL點(diǎn)心寶貝阿木木皮膚效果預(yù)覽
- 烹飪樂趣,原神奶油燉雞食譜怎么獲得
- 所有玩家必讀,茶杯頭歷險(xiǎn)記Cuphead什么配置能玩
- 如何解決游戲啟動(dòng)問題,龍騰世紀(jì)4游戲錯(cuò)誤解決方法
- 深入探究奇術(shù)流星墜火,流星墜火奇術(shù)特點(diǎn)介紹
- 探索魔獸世界wlk戰(zhàn)袍購買指南,魔獸世界wlk戰(zhàn)袍軍需官在哪
- 冒險(xiǎn)指南,燕云十六聲喬叁爺怎么對(duì)話
聲明:本文來自于(ID:ykqsd.com)授權(quán)轉(zhuǎn)載發(fā)布。
IT之家 3 月 10 日最新消息,華為技術(shù)有限公司與北京大學(xué)高性能計(jì)算校級(jí)公共平臺(tái)共同宣布,2025 年 3 月 9 日,北京大學(xué)聯(lián)合華為發(fā)布全新 DeepSeek 全棧開源推理方案。
該方案以北大自研的 SCOW 算力平臺(tái)系統(tǒng)為基礎(chǔ),結(jié)合鶴思調(diào)度系統(tǒng),并整合了 DeepSeek、openEuler、MindSpore 以及 vLLM / RAY 等社區(qū)開源組件。方案實(shí)現(xiàn)了在華為昇騰架構(gòu)上的高效推理,并支持大規(guī)模算力集群的訓(xùn)推一體化部署。所有開發(fā)者均可自由獲取源碼并進(jìn)行二次開發(fā),性能表現(xiàn)與華為的閉源方案相當(dāng)接近。
該全棧開源方案的其他版本 DeepSeek-R1-w8a8在硬件配置上采用 2 臺(tái) Atlas 800I A2 處理器,支持輸入長度 4096、輸出長度 1024,系統(tǒng)輸出吞吐量為 11981288,最高并發(fā)用戶數(shù)達(dá) 128128。
目前,該方案已在未名卓越一號(hào)集群中成功部署運(yùn)行。該集群由北京大學(xué)計(jì)算中心負(fù)責(zé)研制與運(yùn)維,為北大鯤鵬昇騰科教創(chuàng)新卓越中心提供算力支持。IT之家了解到,這是基于高校自研基礎(chǔ)軟件的國產(chǎn)智算平臺(tái)的首個(gè)實(shí)例,于 2024 年 11 月 18 日正式上線運(yùn)行,初期集成 20 臺(tái)昇騰 AI 服務(wù)器和 10 臺(tái)鯤鵬通用服務(wù)器,其中 AI 算力規(guī)模達(dá)到 30.64 PFlops(半精度計(jì)算)。
此次發(fā)布的 DeepSeek 推理方案在 openEuler 開源操作系統(tǒng)層面進(jìn)行了全面性能優(yōu)化,通過異構(gòu)調(diào)度負(fù)載感知 MoE 冷熱專家,實(shí)現(xiàn)了更細(xì)致的任務(wù)調(diào)度;通過異構(gòu)融合高效管理內(nèi)存,降低系統(tǒng)內(nèi)存碎片;利用畢昇編譯器進(jìn)一步優(yōu)化,減少了算子下發(fā)耗時(shí),從而提升了整體推理性能。
算力集群全棧開源推理方案架構(gòu)圖
汪小菲小玥兒溫馨互動(dòng)汪小菲大S愛情回顧,"小玥兒重現(xiàn)美好,與汪小菲、馬筱梅一同現(xiàn)身,完美重現(xiàn)大S美貌" 《爆梗找茬王》里的趣味挑戰(zhàn),《爆梗找茬王》三點(diǎn)下午茶通關(guān)攻略 東方航空MU237航線首次開通直飛上海至阿布扎比,東方航空宣布:上海至阿布扎比航線4月28日開通 暫停情報(bào)共享烏克蘭軍事能力受限引發(fā)沖突升級(jí),爆料:烏軍失去一重要能力 沃爾沃ES90純電超級(jí)美學(xué),激光雷達(dá)+800V架構(gòu),沃爾沃純電旗艦ES90全球首發(fā)(解釋:標(biāo)題保持了原意,簡(jiǎn)化了表述,使用"全球首發(fā)"增強(qiáng)新聞價(jià)值,同時(shí)保留了關(guān)鍵的技術(shù)亮點(diǎn)和車型信息。) 素顏扎馬尾溫柔笑容歲月在她臉上刻下故事,梅婷一婚花費(fèi)400萬,二婚生下一對(duì)雙胞胎,被丈夫疼愛成寶 更年期補(bǔ)充維生素D,失眠、腰酸背疼的更年期女性該如何選擇保健品? 清理網(wǎng)絡(luò)黑公關(guān)助力清朗,極氪展開企業(yè)聲譽(yù)維權(quán),懸賞500萬線索 巴以直接談判,美國為何直接與哈馬斯談判?專家分析:三個(gè)考量 更年期關(guān)注,更年期該怎么做?這三種情況不建議"忍忍"!