-
華為云徐強(qiáng):迎接AI推理時(shí)代,大模型混合云煥新升級(jí)
最后更新: 2025-06-27 11:08:196月21日,在華為開發(fā)者大會(huì)(HDC 2025)期間,“華為云Stack,智能時(shí)代更懂政企的云”高峰論壇成功舉行。華為混合云副總裁、產(chǎn)品管理部部長徐強(qiáng)發(fā)表題為《大模型混合云,解鎖政企智能應(yīng)用無限可能》的演講。會(huì)上,他分享了華為云Stack在大模型混合云領(lǐng)域的進(jìn)展與成果,深度解讀了華為云Stack大模型混合云6大煥新升級(jí)能力,并重磅發(fā)布《政企AI平臺(tái)架構(gòu)及應(yīng)用實(shí)踐》白皮書。
華為混合云副總裁、產(chǎn)品管理部部長徐強(qiáng)
大模型混合云持續(xù)進(jìn)化
當(dāng)前,技術(shù)變革日新月異,大模型以其獨(dú)特的技術(shù)與應(yīng)用優(yōu)勢(shì),已成為推動(dòng)各行業(yè)智能化轉(zhuǎn)型的核心引擎。然而在邁向智能化的征程中,政企仍面臨著諸多挑戰(zhàn)。徐強(qiáng)指出,一方面,政企存在大量敏感數(shù)據(jù)需要妥善保護(hù),“數(shù)據(jù)不出域”成為剛性要求;另一方面,構(gòu)建和運(yùn)行大模型所需的龐大算力與高昂成本,讓許多企業(yè)望而卻步。同時(shí),不同行業(yè)的業(yè)務(wù)場(chǎng)景千差萬別,如何定制化打造貼合自身需求的智能應(yīng)用,也是擺在政企面前的一道難題。
基于此,華為云Stack打造大模型混合云方案,通過堅(jiān)實(shí)算力底座、使能百模千態(tài)、賦能千行萬業(yè)三大能力,幫助企業(yè)一站式建設(shè)自己的專屬大模型,加速邁向智能化。
去年6月,華為云Stack發(fā)布大模型混合云十大創(chuàng)新技術(shù),迭代基礎(chǔ)設(shè)施、算法架構(gòu)和工程能力多維度根技術(shù),讓AI技術(shù)不難用;同時(shí)定義了AI平臺(tái)標(biāo)準(zhǔn)化的8大能力板塊,支撐百模千態(tài)和多樣化的開發(fā)場(chǎng)景,讓AI創(chuàng)新變簡單;9月,華為云Stack面向5大行業(yè)發(fā)布80+場(chǎng)景地圖,幫助客戶快速訓(xùn)好模型,讓AI落地更高效。
推理需求爆發(fā)式增長
今年以來,以 DeepSeek、Qwen3為代表的新一代大模型加速涌現(xiàn),推動(dòng)AI產(chǎn)業(yè)在多個(gè)維度發(fā)生深度變革。
首先,MoE架構(gòu)興起,逐步打破大模型性能、成本與易用性的“不可能三角”,在實(shí)現(xiàn)高效推理的同時(shí)降低了使用門檻,使AI技術(shù)真正走向普惠化。
其次,CoT(思維鏈)將Scaling Law從訓(xùn)練階段延伸到推理階段,在訓(xùn)練算力保持相對(duì)穩(wěn)定的情況下,將催生新的算力需求,同時(shí)還讓模型推理過程打破黑箱,更具可解釋性,加速AI在企業(yè)核心業(yè)務(wù)場(chǎng)景的落地。
第三,模型訓(xùn)練的范式也不斷演進(jìn),從單一的預(yù)測(cè)學(xué)習(xí)向強(qiáng)化學(xué)習(xí)遷移,從預(yù)訓(xùn)練逐步走向后訓(xùn)練,使模型對(duì)齊人類偏好,更具“個(gè)性化適配能力”。
第四,AI的應(yīng)用生態(tài)逐漸轉(zhuǎn)向開源,產(chǎn)業(yè)創(chuàng)新的重心從封閉的模型本體轉(zhuǎn)向業(yè)務(wù)驅(qū)動(dòng)的應(yīng)用創(chuàng)新,推動(dòng)AI從“技術(shù)突破”邁向“價(jià)值創(chuàng)造”。
在這樣技術(shù)變革和推理需求快速增長的背景下,算力底座和調(diào)度面臨新挑戰(zhàn)。需要軟硬件系統(tǒng)級(jí)協(xié)同優(yōu)化,結(jié)合模型架構(gòu)實(shí)現(xiàn)分布式彈性調(diào)度;通過PD分離實(shí)現(xiàn)資源解耦;以訓(xùn)推一體提升資源利用率,滿足系統(tǒng)低時(shí)延、高吞吐,全面提升推理效率。
同時(shí),AI開發(fā)的工具鏈也亟待適配全新的后訓(xùn)練所需要的一站式數(shù)據(jù)、模型和應(yīng)用開發(fā)能力,并能與開源生態(tài)無縫對(duì)接,提升AI應(yīng)用的開發(fā)效率與落地速度。
打造政企更優(yōu)AI平臺(tái)
迎接推理時(shí)代挑戰(zhàn),華為云Stack大模型混合云全面煥新升級(jí)6大能力,通過極致推理和精細(xì)化的運(yùn)營運(yùn)維實(shí)現(xiàn)大規(guī)模算力高效調(diào)度和管理,提供一站式模型后訓(xùn)練和Agent開發(fā)工具加速模型天級(jí)調(diào)優(yōu)、分鐘級(jí)部署和應(yīng)用,并預(yù)置政企專屬行業(yè)使能套件和全流程專業(yè)服務(wù),全方位加速智能應(yīng)用規(guī)模落地,加速AI場(chǎng)景價(jià)值閉環(huán)。
在極致推理方面,華為云Stack致力于推動(dòng)平臺(tái)軟件與算力硬件的深度適配,打造大規(guī)模集群“算力省”“上線快”“體驗(yàn)好”的極致推理服務(wù)。針對(duì)資源錯(cuò)峰復(fù)用場(chǎng)景,利用訓(xùn)推共池技術(shù),算力閑置時(shí)長可下降50%;極致彈性伸縮場(chǎng)景下,借助推理部署加速技術(shù),推理服務(wù)5分鐘即可上線;而在規(guī)模并行推理場(chǎng)景,應(yīng)用大規(guī)模專家并行推理與PD分離技術(shù),優(yōu)異的吞吐與時(shí)延特性支持達(dá)成99%+SLO推理體驗(yàn)指標(biāo)。
在精細(xì)化運(yùn)營方面,華為云Stack首創(chuàng)行業(yè)標(biāo)準(zhǔn)化AI算力度量指標(biāo)體系,提供40+算力度量指標(biāo)和120+全棧資源性能指標(biāo),可以管理萬卡AI算力集群,同時(shí)支持客戶CXO評(píng)估算力使用價(jià)值和投入產(chǎn)出比、運(yùn)維人員分鐘級(jí)快速定界故障,以及運(yùn)營人員實(shí)現(xiàn)安全合規(guī)的算力全生命周期管控,讓算力管理更高效、更可靠。
在模型后訓(xùn)練方面,面向數(shù)據(jù)和模型開發(fā)工程師,華為云Stack構(gòu)建了一站式的后訓(xùn)練工具鏈,覆蓋數(shù)據(jù)、訓(xùn)練和評(píng)測(cè)階段,幫助企業(yè)打造專屬深度思考模型。
在Agent開發(fā)方面,面向應(yīng)用落地最后一公里,華為云Stack提供Agent開發(fā)平臺(tái),具備一站式知識(shí)中心、多智能體協(xié)作和低門檻開發(fā)多重優(yōu)勢(shì),讓企業(yè)智能應(yīng)用開發(fā)像搭積木一樣簡單。
在行業(yè)使能套件方面,基于華為深入行業(yè)的實(shí)踐積累,華為云Stack圍繞7大行業(yè)沉淀了40+開箱即用的Agent模板,助力業(yè)務(wù)分鐘級(jí)上線;同時(shí)提供工業(yè)AI引擎,聚焦視覺質(zhì)檢、工藝優(yōu)化、預(yù)測(cè)性維護(hù)和生產(chǎn)計(jì)劃4大核心領(lǐng)域打造了18個(gè)場(chǎng)景化工作流,使能政企更快速、更精準(zhǔn)地應(yīng)對(duì)復(fù)雜工業(yè)場(chǎng)景的挑戰(zhàn)。
在專業(yè)服務(wù)方面,面向模型供數(shù)、模型開發(fā)、到模型應(yīng)用全流程需求,華為云Stack提供7大類30多項(xiàng)專業(yè)服務(wù)、自研AI工具鏈以及在實(shí)際交付項(xiàng)目中沉淀的服務(wù)經(jīng)驗(yàn),助力政企加快各行業(yè)場(chǎng)景大模型應(yīng)用的創(chuàng)新和迭代,讓大模型從可用到好用。
標(biāo)簽 華為- 責(zé)任編輯: 胡嘉燁 
-
新疆尤占軍,主動(dòng)投案
2025-06-27 11:00 廉政風(fēng)暴 -
臨走了還要抹黑,美國駐香港總領(lǐng)事被痛批
2025-06-27 10:59 香港 -
1-5月全國規(guī)上工業(yè)企業(yè)利潤下降1.1%,5月單月下降9.1%
2025-06-27 10:22 -
整治“內(nèi)卷式”競(jìng)爭,反不正當(dāng)競(jìng)爭法完成修訂
2025-06-27 09:10 依法治國 -
李某因吸毒幻覺殺害3名親人,被執(zhí)行死刑
2025-06-26 22:14 禁毒戰(zhàn)爭 -
“工人徒手掰斷鋼筋?”官方通報(bào)
2025-06-26 21:52 -
北京通報(bào):16人被問責(zé)
2025-06-26 18:22 -
“1歲工作,22歲退休”!山西一疾控職工冒領(lǐng)養(yǎng)老金69萬
2025-06-26 18:22 -
受賄1.22億,張祖林被判無期
2025-06-26 17:11 廉政風(fēng)暴 -
大象被同類霸凌數(shù)年?上海野生動(dòng)物園:已采取保護(hù)性舉措
2025-06-26 15:08 -
食品安全法擬修法,市場(chǎng)監(jiān)管總局局長談及“罐車運(yùn)輸食用油亂象”
2025-06-26 14:47 食品安全 -
“禁止攜帶沒有3C標(biāo)識(shí)的充電寶乘坐境內(nèi)航班”
2025-06-26 13:30 -
國家發(fā)改委:第三批消費(fèi)品以舊換新資金將于7月下達(dá)
2025-06-26 10:59 -
中國30年期AAA級(jí)企業(yè)債收益率創(chuàng)2006年以來新低
2025-06-26 10:42 金融觀察 -
美日印,中國短劇的三大主要市場(chǎng)
2025-06-26 09:39 三十而勵(lì)白玉蘭 -
海南??凇⑽牟?jí)發(fā)布暴雨紅色預(yù)警
2025-06-26 08:51 極端天氣 -
為維護(hù)聯(lián)系匯率制度,香港金管局兩年來首次買入港幣
2025-06-26 07:48 香港 -
青海省教育廳:堅(jiān)決與孫立明劃清界限
2025-06-25 22:44 廉政風(fēng)暴 -
涉案911億,主犯盤繼彪被判無期
2025-06-25 18:56 依法治國 -
兩部門:禁止從西班牙、意大利輸入羊及其相關(guān)產(chǎn)品
2025-06-25 18:56
相關(guān)推薦 -
美國又下黑手:撤銷三星、SK海力士在華工廠豁免 評(píng)論 32外媒又炒作中國赴烏維和部隊(duì),白宮回應(yīng) 評(píng)論 110白忙活了?“特朗普大發(fā)雷霆,怒噴烏歐不切實(shí)際” 評(píng)論 127“收獲季到了,美國大豆卻又遭‘當(dāng)頭一棒’” 評(píng)論 67被解職后,佩通坦發(fā)聲:接受裁決 評(píng)論 151最新聞 Hot
-
外媒又炒作中國赴烏維和部隊(duì),白宮回應(yīng)
-
美國又下黑手:撤銷三星、SK海力士在華工廠豁免
-
美歐持續(xù)重壓,最后一刻西班牙“毀約”
-
對(duì)華問題,普京最新表態(tài)
-
投訴“魯迅夾煙墻畫”當(dāng)事人,道歉了
-
民生銀行半年報(bào):凈利潤下降4.87%、資產(chǎn)總額下降0.59%
-
光大銀行半年報(bào):營收下降5.57%,但凈利潤增長0.55%
-
俄方:普京與金正恩會(huì)晤正在醞釀中
-
“意在制衡中國”,中方警告美日
-
鳩山將出席九三閱兵,日本政府回應(yīng)
-
女子上廁所多次遭偷窺,西安警方通報(bào)
-
白忙活了?“特朗普大發(fā)雷霆,怒噴烏歐不切實(shí)際”
-
莫迪在日本提到中國
-
“很高興受邀,中國戰(zhàn)勝日本是值得慶祝的歷史事件”
-
特朗普對(duì)哈里斯下手了
-
“已和以色列徹底決裂,包括經(jīng)濟(jì)”
-