-
對話后摩智能CEO吳強(qiáng):未來90%的數(shù)據(jù)處理可能會(huì)在端邊
最后更新: 2025-07-31 15:28:29今年的世界人工智能大會(huì)(WAIC 2025),國產(chǎn)算力芯片的發(fā)展仍然備受關(guān)注。
在后摩智能展臺,后摩智能M50系列產(chǎn)品首次亮相,后摩智能M50芯片與力謀?BX50計(jì)算盒子、力擎LQ50 Duo M.2卡等旗下核心產(chǎn)品一同位于展臺的核心位置。
作為主打端邊大模型和存算一體的芯片企業(yè),后摩智能這次帶來的M50芯片專為大模型推理設(shè)計(jì),主要面向AI PC(人工智能個(gè)人電腦)、智能終端等場景。
“未來大模型有兩個(gè)重要發(fā)展趨勢:一是大模型的重心逐漸從訓(xùn)練向推理遷移。二是逐漸從云端智能逐漸向邊端或者端邊智能遷移?!?月25日,后摩智能CEO(首席執(zhí)行官)吳強(qiáng)對觀察者網(wǎng)等表示。
他認(rèn)為,未來的計(jì)算格局有可能是端、邊、云的混合體,但是90%的數(shù)據(jù)處理可能會(huì)在端和邊,只有10%的訓(xùn)練算到云端做更昂貴或者更復(fù)雜的任務(wù)在云端做。
圖源:觀察者網(wǎng)
后摩智能創(chuàng)立于2020年,創(chuàng)立早期定位為基于存算一體技術(shù)的大算力AI(人工智能)芯片研發(fā)企業(yè)。創(chuàng)始人吳強(qiáng)擁有美國普林斯頓大學(xué)博士學(xué)位,曾任地平線CTO(首席技術(shù)官)。
M50芯片被視為后摩智能過去兩年交出的一份答卷。
據(jù)介紹,M50芯片實(shí)現(xiàn)了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB內(nèi)存與153.6 GB/s的超高帶寬,典型功耗僅10W,相當(dāng)于手機(jī)快充的功率,能讓PC、智能語音設(shè)備、機(jī)器人等智能移動(dòng)終端高效運(yùn)行1.5B到70B參數(shù)的本地大模型,實(shí)現(xiàn)了“高算力、低功耗、即插即用”。
除了M50芯片,后摩智能此次發(fā)布的產(chǎn)品矩陣形成了覆蓋端側(cè)到邊緣的多元算力方案。力擎LQ50 Duo M.2卡以口香糖大小的標(biāo)準(zhǔn)M.2規(guī)格,為AI PC、陪伴機(jī)器人等移動(dòng)終端提供“即插即用”的端側(cè)AI能力。
吳強(qiáng)曾表示,國產(chǎn)替代的企業(yè)可以對標(biāo)海外的某類產(chǎn)品,但絕不能用同樣的技術(shù)路徑進(jìn)行照搬,如英偉達(dá)、AMD等國際巨頭的研發(fā)、工程、供應(yīng)鏈能力遠(yuǎn)超過初創(chuàng)企業(yè),硬碰硬難以取得成功,創(chuàng)業(yè)公司需要另辟蹊徑,以一種差異化的技術(shù)路線來應(yīng)對和巨頭們之間的競爭。
當(dāng)前,后摩智能通過存算一體技術(shù)與大模型的深度融合,推動(dòng)AI大模型在端邊側(cè)實(shí)現(xiàn)“離線可用、數(shù)據(jù)留痕不外露”。
吳強(qiáng)稱,M50芯片的發(fā)布是后摩智能現(xiàn)階段邁出的重要的一步,后面會(huì)推出更多的芯片去解決端邊大模型的算力和功耗問題以及帶寬問題。“長期來說,后摩希望定位在端邊AI計(jì)算?!?
在他看來,M50的發(fā)布只是一個(gè)開始,“我們的目標(biāo)是讓大模型算力像電力一樣隨處可得、隨取隨用?!?
圖源:觀察者網(wǎng)
“無論是商業(yè)還是個(gè)人,端邊的AI都有可能成為更懂你的AI。因?yàn)樗旧硎怯泻芏嗵焐膬?yōu)勢,盡管剛剛開始,大模型剛剛開始,端邊剛剛開始,但是它本身有更好的實(shí)時(shí)響應(yīng),更低的使用成本,更安全的數(shù)據(jù)隱私,以及更好的個(gè)人的用戶體驗(yàn)。未來這會(huì)成為一個(gè)趨勢。”吳強(qiáng)說。
2024年初,后摩智能把第一代芯片調(diào)整了一版,推出了M30,針對大模型做了一些調(diào)整和優(yōu)化。
本次推出的M50產(chǎn)品可廣泛應(yīng)用于消費(fèi)終端、智能辦公、智能工業(yè)等多元領(lǐng)域,且均能在離線狀態(tài)下實(shí)現(xiàn)全流程本地處理,從源頭杜絕數(shù)據(jù)聯(lián)網(wǎng)傳輸風(fēng)險(xiǎn)。
吳強(qiáng)還披露了當(dāng)下后摩智能的意向客戶,包括聯(lián)想的下一代AI PC產(chǎn)品、訊飛聽見的下一代智能語音設(shè)備以及中國移動(dòng)的全新一代的5G+AI邊緣計(jì)算設(shè)備等。
“目前我們看重幾個(gè)領(lǐng)域,一是平板和電腦這種消費(fèi)終端類,大模型是生產(chǎn)力工具。二是智能語音系統(tǒng),大模型語音會(huì)議也是我們重點(diǎn)布局的方面。三是運(yùn)營商的邊緣計(jì)算,5G+AI是一個(gè)趨勢?!彼f道。
吳強(qiáng)還提到,機(jī)器人包括具身智能機(jī)器人(特指陪伴機(jī)器人),更像是十年前的智能駕駛,是一個(gè)新興的垂直賽道,格局還未定,“大家還有機(jī)會(huì)”。
“只要是端邊,只要對大模型有需要,對功耗敏感,都有可能是我們的客戶,需要我們逐步地拓展。目前大方向是消費(fèi)終端、智能辦公、智能工業(yè),機(jī)器人也算其中,這是我們重點(diǎn)在布局的幾個(gè)領(lǐng)域。”他表示。
面向未來,后摩智能已啟動(dòng)下一代DRAM-PIM技術(shù)研發(fā),通過將計(jì)算單元直接嵌入DRAM陣列,使計(jì)算與存儲的協(xié)同更加緊密高效。該技術(shù)將突破1TB/s片內(nèi)帶寬,能效較現(xiàn)有水平再提升三倍,推動(dòng)百億參數(shù)大模型在終端設(shè)備實(shí)現(xiàn)普及,讓更強(qiáng)大的AI算力能夠融入PC、平板等日常設(shè)備。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
標(biāo)簽 后摩智能- 責(zé)任編輯: 胡嘉燁 
-
華為開源自研編程語言“倉頡”
2025-07-31 15:19 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
滬指3600點(diǎn)得而復(fù)失,全市場超4200只個(gè)股飄綠
2025-07-31 15:14 金融觀察 -
-
【直播集錦】陳勉諾:我在參賽者身上看到了青年工程師改變世界的信仰
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】陳勉諾:Robomaster帶來的創(chuàng)新土壤與業(yè)界高度結(jié)合
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】馮臨溪:RoboMaster比賽在評價(jià)體系中未受重視有好有壞
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】馮臨溪:Robomaster所鍛煉的工程思維是獨(dú)一無二的
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】陳勉諾:我看到了野蠻的生長力和極度的創(chuàng)造力
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】陳勉諾:像Robomaster這樣的大賽越多越好
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
【直播集錦】陳勉諾:機(jī)器人領(lǐng)域有很多問題還沒有被有效解決,期待針對于此比賽
2025-07-31 14:29 2025世界人工智能大會(huì)精華視頻 -
舍得酒業(yè)高層格局生變?前“復(fù)星系”董事長倪強(qiáng)辭任董事
2025-07-31 13:22 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
將“胖改”進(jìn)行到底!永輝超市定增募資近40億元
2025-07-31 13:21 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
蘋果鬧“烏龍”,微博“背鍋”?
2025-07-31 11:45 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
今年第七次!萬科再度獲得深鐵集團(tuán)8.69億元借款
2025-07-30 23:31 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
九連漲!阿迪達(dá)斯二季度大中華區(qū)營收又漲11%
2025-07-30 21:22 -
-
-
相關(guān)推薦 -
美國又下黑手:撤銷三星、SK海力士在華工廠豁免 評論 119被解職后,佩通坦發(fā)聲:接受裁決 評論 152最新聞 Hot
-
美國上訴法院裁定關(guān)稅非法,特朗普:你們在摧毀美國
-
英國“準(zhǔn)備好介入臺海”?英防相否認(rèn)
-
外媒又炒作中國赴烏維和部隊(duì),白宮回應(yīng)
-
美國又下黑手:撤銷三星、SK海力士在華工廠豁免
-
美歐持續(xù)重壓,最后一刻西班牙“毀約”
-
對華問題,普京最新表態(tài)
-
投訴“魯迅夾煙墻畫”當(dāng)事人,道歉了
-
民生銀行半年報(bào):凈利潤下降4.87%、資產(chǎn)總額下降0.59%
-
光大銀行半年報(bào):營收下降5.57%,但凈利潤增長0.55%
-
俄方:普京與金正恩會(huì)晤正在醞釀中
-
“意在制衡中國”,中方警告美日
-
鳩山將出席九三閱兵,日本政府回應(yīng)
-
女子上廁所多次遭偷窺,西安警方通報(bào)
-
白忙活了?“特朗普大發(fā)雷霆,怒噴烏歐不切實(shí)際”
-
莫迪在日本提到中國
-
“很高興受邀,中國戰(zhàn)勝日本是值得慶祝的歷史事件”
-