9月19日,在華為全聯(lián)接大會(huì)的第二天,華為常務(wù)董事、華為云計(jì)算CEO張平安在主題演講環(huán)節(jié)分享了華為云在AI云服務(wù)、大模型、具身智能、AI Agent等領(lǐng)域的技術(shù)創(chuàng)新與落地實(shí)踐。
華為常務(wù)董事、華為云計(jì)算CEO張平安
據(jù)介紹,華為云CloudMatrix384昇騰AI云服務(wù)已全面上線。未來華為CloudMatrix超節(jié)點(diǎn)規(guī)格將從384卡升級(jí)到8192卡,可實(shí)現(xiàn)50-100萬卡的超大集群。
隨著AI算力需求的暴增,傳統(tǒng)的數(shù)據(jù)中心已不適合構(gòu)建高效的AI基礎(chǔ)設(shè)施,單機(jī)柜功率要從10千瓦/每柜,升級(jí)到70千瓦/每柜,甚至是200千瓦/每柜,要從風(fēng)冷轉(zhuǎn)變到全液冷。
華為云在貴州、內(nèi)蒙古、安徽部署了全液冷AI數(shù)據(jù)中心,實(shí)現(xiàn)單機(jī)柜80千瓦散熱,PUE低至1.1,并能夠?qū)崿F(xiàn)AI智能運(yùn)維。
華為表示,企業(yè)無需改造或新建傳統(tǒng)數(shù)據(jù)中心,通過一對(duì)光纖,就能獲取華為云上的AI算力,也可以獲得全棧專屬AI云服務(wù)。
張平安指出,Token服務(wù)可以有效屏蔽復(fù)雜的底層技術(shù),直接為用戶提供最終的AI計(jì)算結(jié)果,是最高效的推理算力使用方式。CloudMatrix384超節(jié)點(diǎn)將算力、內(nèi)存、顯存等資源全面池化,把計(jì)算型任務(wù)、存儲(chǔ)型任務(wù)、AI專家系統(tǒng)解耦,將串行任務(wù)變成分布式并行任務(wù),極大地提升了系統(tǒng)的推理性能。在在線、近線和離線等不同時(shí)延推理場(chǎng)景中,CloudMatrix384平均單卡的推理性能達(dá)到H20的3到4倍。
會(huì)上,張平安宣布,CloudMatrix384 AI Token推理服務(wù)全面上線。
截至目前,使用華為云AI云服務(wù)的全球客戶數(shù)量從去年的321家增長到今年的1805家。
張平安表示,華為云通過軟硬協(xié)同、架構(gòu)創(chuàng)新,持續(xù)為客戶打造更領(lǐng)先、更有價(jià)值的云服務(wù);同時(shí)將更多的資源投入到AI和算力產(chǎn)業(yè)上,讓千行萬業(yè)的的應(yīng)用更容易、更好地生長在華為云的“黑土地”上。
此外,今年華為云還推出了CloudRobo具身智能平臺(tái),將算法與智能邏輯部署于云端,讓本體更輕量化;依托云端海量算力與先進(jìn) AI 模型,讓機(jī)器人執(zhí)行更智能。為構(gòu)建機(jī)器人與云端統(tǒng)一、開放、安全的通信橋梁,華為云推出R2C(Robot to Cloud)協(xié)議,以實(shí)現(xiàn)智能體的協(xié)同思考與高效執(zhí)行,如今R2C協(xié)議的數(shù)據(jù)采集、數(shù)據(jù)生成、通訊接口三項(xiàng)國家標(biāo)準(zhǔn)已完成立項(xiàng)。
會(huì)上,張平安宣布R2C協(xié)議首批20家合作伙伴正式確立,包括華龍訊達(dá)、非夕、億嘉和、道和通泰等。華為云攜手伙伴,圍繞制造、物流、巡檢、康養(yǎng)等領(lǐng)域,基于R2C共同開發(fā)云端一體化機(jī)器人解決方案。
今年8月份,市場(chǎng)傳出華為云組織優(yōu)化和人員調(diào)整,對(duì)此,華為云回應(yīng)稱通過軟硬協(xié)同、架構(gòu)創(chuàng)新,持續(xù)為客戶打造更領(lǐng)先、更有價(jià)值的云服務(wù),與此同時(shí)將更多的資源投入到AI產(chǎn)業(yè)和算力產(chǎn)業(yè)上。
華為云表示,接下來在智能算力云的賽道上,華為云將投入更多的資源,加大對(duì)昇騰云、盤古大模型、數(shù)智融合等投入,同時(shí)投入更多的力量,來支持昇騰CANN生態(tài)的發(fā)展。此外,對(duì)于盤古大模型,華為云也將加大投入,持續(xù)深耕行業(yè),支持各行各業(yè)的客戶做好自己的大模型,同時(shí)支持大模型用好昇騰,讓更多的AI應(yīng)用在昇騰上繁榮起來,加速行業(yè)智能化。
據(jù)第三方機(jī)構(gòu)IDC發(fā)布的報(bào)告,2024年中國AI公有云服務(wù)市場(chǎng)規(guī)模195.9億元,其中百度智能云、阿里云位居市場(chǎng)并列第一,市場(chǎng)份額24.6%,其次是騰訊云和華為云。市場(chǎng)增長驅(qū)動(dòng)力一方面來源于生成式AI應(yīng)用的擴(kuò)展,另一方面也來源于機(jī)器學(xué)習(xí)訓(xùn)推需求的明顯增長,帶動(dòng)了平臺(tái)層以及應(yīng)用層的AI市場(chǎng)增長。
關(guān)于我們|版權(quán)聲明| 違法和不良信息舉報(bào)電話:010-84151598 | 網(wǎng)絡(luò)敲詐和有償刪帖舉報(bào)電話:010-84151598
Copyright ? 2008-2024 by {當(dāng)前域名}. all rights reserved