觀察員
-
華為將首次展出“算力核彈”真機(jī)
觀察者網(wǎng)獲悉，本次世界人工智能大會（WAIC），華為將首次線下展出昇騰384超節(jié)點(diǎn)真機(jī)。
隨著大模型訓(xùn)練和推理對算力需求的爆炸式增長，傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為昇騰384超節(jié)點(diǎn)，首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián)，形成一臺超級“AI服務(wù)器”，單卡推理吞吐量躍升到2300 Tokens/s。
在高速互聯(lián)總線聯(lián)接下，昇騰384超節(jié)點(diǎn)共由12個計(jì)算柜和4個總線柜構(gòu)成，是目前業(yè)界最大規(guī)模的超節(jié)點(diǎn)，算力總規(guī)模達(dá)300Pflops，是英偉達(dá)NVL72的1.7倍；網(wǎng)絡(luò)互聯(lián)總帶寬達(dá)269TB/s，比英偉達(dá)NVL72提升107%；內(nèi)存總帶寬達(dá)1229TB/s，比英偉達(dá)NVL72提升113%。 更重要的是，通過最佳負(fù)載均衡組網(wǎng)等方案，昇騰超節(jié)點(diǎn)還能進(jìn)一步擴(kuò)展為包含數(shù)萬卡的Atlas 900 SuperCluster超節(jié)點(diǎn)集群，未來可以支撐更大規(guī)模的模型演進(jìn)。
并且，超節(jié)點(diǎn)架構(gòu)還能更好地支持混合專家MoE大模型的推理，可以實(shí)現(xiàn)“一卡一專家”，一個超節(jié)點(diǎn)可以支持384個專家并行推理，極大提升效率。同時(shí)，超節(jié)點(diǎn)還可以支持“一卡一算力任務(wù)”，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升50%以上。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽 華為云- 責(zé)任編輯: 胡嘉燁
-
“雪糕刺客”鐘薛高：從高端狂飆到破產(chǎn)收場
2025-07-18 14:57 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
華住躋身全球酒店集團(tuán)排行榜第四
2025-07-18 14:55 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
直播：TOYCITY首個Ai陪伴玩偶全球首發(fā)
2025-07-18 12:38 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
-
-
迪卡儂試衣間門縫驚現(xiàn)攝像頭
2025-07-18 10:59 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
臺積電單季凈利潤近千億，稱美國解禁H20是好消息
2025-07-18 10:15 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
黃仁勛有意再來鏈博會；蘋果申請自研芯片C1商標(biāo)；我國發(fā)現(xiàn)新稀土
2025-07-18 08:42 -
“今年中國的投資數(shù)據(jù)，令人驚訝”
2025-07-17 23:52 -
上半年凈利跌超九成的酒鬼酒，胖東來能帶得動嗎？
2025-07-17 17:53 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
3年多虧掉3億多，“紅棗第一股”好想你上半年還是沒扭虧
2025-07-17 16:47 -
“華爾街收購之王”接近拿下“國潮汽水”大窯
2025-07-17 14:20 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
上海：打造RISC-V產(chǎn)業(yè)集聚區(qū)
2025-07-17 11:32 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
賣的越多、賺的更少？水井坊上半年凈利潤“腰斬”
2025-07-16 21:42 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
“關(guān)稅大棒”揮向巴西，咖啡商：傷害的是美國企業(yè)
2025-07-16 19:57 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
蘋果5億美元押注美國唯一稀土商
2025-07-16 18:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng)
相關(guān)推薦 -
美國又下黑手：撤銷三星、SK海力士在華工廠豁免 評論 206最新聞 Hot-
行程披露！“普京在華停留如此之久，實(shí)屬罕見”
-
“干涉內(nèi)政！”日本忍不了了，最后一刻取消訪美
-
烏克蘭前議長遭槍殺，澤連斯基發(fā)聲
-
“印度不會屈服”
-
泰國任命代總理
-
孫女士被封號，微博回應(yīng)
-
“有個‘壞習(xí)慣’，我進(jìn)工廠戒不掉，孩子也染上”
-
“股王爭奪戰(zhàn)”后，貴州茅臺發(fā)布兩公告
-
沙利文都麻了：4年白干，當(dāng)初拉來遏華的盟友現(xiàn)在罵美國是“馬桶”
-
馬克龍拱火：要是這樣，特朗普就又被普京“玩”了
-
美國上訴法院裁定關(guān)稅非法，特朗普：你們在摧毀美國
-
英國“準(zhǔn)備好介入臺?！保坑⒎老喾裾J(rèn)
-
外媒又炒作中國赴烏維和部隊(duì)，白宮回應(yīng)
-
美國又下黑手：撤銷三星、SK海力士在華工廠豁免
-
美歐持續(xù)重壓，最后一刻西班牙“毀約”
-
對華問題，普京最新表態(tài)
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
