芯東西(公眾號:aichip001)
作者 | ?ZeR0
編輯 | ?漠影

芯東西5月26日報道,在臺北國際電腦展COMPUTEX 2025前夕,Arm高級副總裁兼終端事業部總經理Chris Bergey發表主題演講,分享Arm生態系統如何推動下一波人工智能(AI)浪潮。目前,基于Arm架構的芯片出貨量已累計超過3100億顆,廣泛應(ying)用于消(xiao)費電子設備、AI汽車以及AI優(you)先的數(shu)據中心。

近日,Chris Bergey與芯(xin)東西等媒體進(jin)行(xing)(xing)深入交流(liu)。據他透露,Arm預(yu)計(ji)今年稍(shao)晚(wan)將推(tui)出新的Armv9旗艦CPU(代號Travis),同時(shi)下一代GPU(代號Drage)將提(ti)供更強性能(neng)。他告訴芯(xin)東西,Arm GPU重點(dian)聚焦邊緣側,針(zhen)對物聯網和終端市場均(jun)有GPU產(chan)品,同時(shi)在(zai)汽(qi)車領域(yu)的GPU進(jin)行(xing)(xing)投(tou)入,目前尚(shang)未計(ji)劃對數據中心GPU進(jin)行(xing)(xing)投(tou)入。

對話Arm高級副總裁:今年推新旗艦Travis CPU,帶來雙位數IPC性能提升

Travis CPU將帶來雙位數的(de)IPC性(xing)能(neng)(neng)提升(sheng),并將是第一代引(yin)入Armv9可伸縮矩陣擴展(Scalable Matrix Extension,SME)的(de)處理(li)器,可進(jin)一步加(jia)速處理(li)AI工作負載。Drage GPU將能(neng)(neng)為長時間的(de)游(you)戲(xi)和更豐(feng)富的(de)多(duo)媒體內容提供持(chi)續的(de)性(xing)能(neng)(neng)支(zhi)持(chi)。這兩款產品的(de)結合將引(yin)入面向移動端市場的(de)Arm Lumex CSS解決(jue)方案,為未(wei)來消費電子設備上的(de)邊緣AI性(xing)能(neng)(neng)奠定(ding)基礎(chu)。

Arm已被中國(guo)生態系統視(shi)為手機高性能GPU的領先提供商(shang),今年加入了Arm精(jing)銳(rui)超級分辨率技術(Arm ASR),使(shi)用戶能夠在移動設備上實現游戲(xi)主機級畫質和游戲(xi)體驗。

一、云側:預計今年近50%頭部云服務算力基于Arm架構

Arm已(yi)轉型為(wei)計算平臺公司(si),從云端(duan)到邊緣側等(deng)各個應(ying)用,在計算能效與(yu)能源效率方面展現領導(dao)地位。

在(zai)云(yun)端與數據中(zhong)(zhong)心(xin)方面(mian),亞馬遜云(yun)科(ke)技(AWS)、谷歌、微軟等科(ke)技巨(ju)頭均在(zai)持續擴展(zhan)搭載(zai)Arm計算平臺的自研數據中(zhong)(zhong)心(xin)芯片(pian)。

AWS曾分享,其超過(guo)90%的(de)重要客(ke)戶(不(bu)包括亞馬(ma)遜(xun))在(zai)用Arm先進(jin)架構(gou)。過(guo)去兩年,AWS新部署的(de)CPU算(suan)力中,有(you)超過(guo)50%是基(ji)于Arm技(ji)術(shu)的(de)Graviton芯片。

Arm預計在2025年,出貨到頭部超大規模云服務提供商的算力中,有近50%是基于Arm架構。

這股動力,來自業界對Arm高效節能計算能力的強烈需求。相比其他平臺,頭部云服務提供商所采用的Arm架構芯片可實現高達40%的能效提升。

對話Arm高級副總裁:今年推新旗艦Travis CPU,帶來雙位數IPC性能提升

在(zai)COMPUTEX期間(jian),NVIDIA也分享了基于Arm架構的(de)NVIDIA Grace CPU的(de)進展。該CPU在(zai)包括埃(ai)克森美孚(fu)、Meta等一系列(lie)的(de)實際部署中,為要求苛刻的(de)AI工作負載(zai)提供了性(xing)能(neng)和(he)效(xiao)率的(de)提升。

Bergey強調(diao)說,數據中心的(de)未(wei)來將是Arm計算與加速器的(de)緊密耦合。這(zhe)一(yi)趨勢在很(hen)大程度上建(jian)立于Arm生態系統之(zhi)上。

二、邊緣側:預測今年PC和平板出貨量占比超40%

每(mei)瓦(wa)性能(neng)在邊緣設備中至關重要(yao)。

在去年的COMPUTEX展會上,Arm發布了專為(wei)消(xiao)費電子設備打造的Arm終端計(ji)算子系統(CSS),作為(wei)旗艦(jian)AI智能手機與新一(yi)代AI PC的計(ji)算平(ping)臺(tai)。

Bergey告訴(su)芯東西,Arm的(de)大(da)部(bu)分業務是向(xiang)整個(ge)行業提供標準化產(chan)品(pin)和平臺解(jie)決方案(an),當前隨著AI快速(su)演進,芯片設計(ji)變得(de)越(yue)來越(yue)具(ju)有技(ji)術挑戰性,成本變高,產(chan)品(pin)上(shang)市時(shi)間愈發關鍵,此外因摩(mo)爾定律放緩,設計(ji)過(guo)程中(zhong)對工藝的(de)定制化需求(qiu)也持(chi)續增(zeng)長(chang),這些驅使Arm推(tui)出(chu)CSS。

CSS仍屬于標準(zhun)化產品(pin),而非定制化業務。Arm可以為從云(yun)端、汽(qi)車到(dao)終端等不同細分市場的合(he)作伙伴提供CSS,幫助合(he)作伙伴有(you)效提升性能、降低成本(ben),并加快產品(pin)上市周(zhou)期(qi)。

除了帶(dai)來兩位(wei)數的性能(neng)提升之(zhi)外,終端CSS也為用戶(hu)帶(dai)來了實質性效(xiao)益——應用程序啟動更(geng)快速、AI 體驗(yan)更(geng)流暢且(qie)更(geng)持久(jiu)。

目前全球99%的智能手(shou)機都采用(yong)Arm架構,對(dui)性能、電池續航以及“始終在(zai)線(xian)(Always-on)”的需求也在(zai)不斷擴展(zhan)到其他消費(fei)設備市場。

在(zai)中(zhong)國手(shou)機(ji)市(shi)場,Arm正在(zai)為聯(lian)發科技等生(sheng)態合作(zuo)伙伴提(ti)供前(qian)沿CPU和GPU技術,這些合作(zuo)伙伴正與眾多一線(xian)手(shou)機(ji)廠(chang)商攜手(shou),將搭(da)載Arm技術的(de)優秀手(shou)機(ji)產品推向市(shi)場。

Armv9架(jia)構自四年前推出以來(lai)(lai),已被全球(qiu)多款最新的手(shou)機與(yu)PC采(cai)用,為(wei)這些(xie)設備(bei)帶來(lai)(lai)了(le)更出色(se)的AI性能(neng)。

對于移動終端(duan)設備而言,控(kong)制功耗是一個(ge)關鍵考量因(yin)素(su)。IPC(每時鐘周期指令數)與頻率的(de)(de)乘積決定(ding)了整個(ge)平臺的(de)(de)性能。相較于單純(chun)依(yi)賴提(ti)高頻率來提(ti)升(sheng)(sheng)性能,提(ti)升(sheng)(sheng)IPC可以(yi)更高效地實(shi)現性能的(de)(de)增(zeng)強,同(tong)時還(huan)能顯著(zhu)改善能耗表現。

據Bergey分(fen)享(xiang),Arm堅信(xin)異構計算是未來的(de)發展(zhan)方向(xiang),目前大(da)多數第三方應用都是在CPU上(shang)進行AI開發的(de),有70%會始終運(yun)行在CPU上(shang),而(er)不會遷(qian)移到(dao)GPU或NPU,也有不少應用借助GPU進行加速。

如今AI PC的(de)設計(ji)正越來越接近(jin)現代智能手(shou)機的(de)形態——輕薄的(de)尺寸、無風扇的(de)設計(ji)、全天候的(de)電池續(xu)航能力、始終在線(xian)的(de)效率,以及無論是視(shi)頻(pin)會(hui)議還是視(shi)頻(pin)流媒體,都能享(xiang)受到卓(zhuo)越的(de)多媒體體驗。

近年來,Arm架構在PC與平板市場的需求大幅成長,預估在2025年將占整體出貨量的40%以上。全球(qiu)大(da)多數(shu)主(zhu)流的應用(yong)均已(yi)推出適用(yong)于Windows的Arm原生(sheng)(sheng)版本,帶來(lai)更(geng)(geng)快速、更(geng)(geng)強大(da)的AI PC體驗,涵蓋聊天機器人、生(sheng)(sheng)產力工具等核心應用(yong)。

聯發科(ke)技近(jin)期推出的Kompanio Ultra SoC,更進一(yi)步提升了(le)Chromebook市場的水平,讓(rang)新一(yi)代 Chromebook Plus 設備具備先進AI與多媒(mei)體能力(li)。

此外,NVIDIA推出的DGX Spark個(ge)人AI超級計(ji)算機,將(jiang)數(shu)據(ju)中心(xin)級別的計(ji)算能力(li)帶到(dao)了桌面級產品(pin)。該產品(pin)搭載(zai)了基于Armv9架構(gou)CPU的Grace Blackwell超級芯片,具備支持2000億參數(shu)模型的AI計(ji)算能力(li)。

在(zai)本屆COMPUTEX 上,NVIDIA宣布與宏碁、華碩(shuo)、戴爾科技、技嘉、惠普、聯想和微(wei)星等全球領先系統制造商共同打(da)造NVIDIA DGX Spark和DGX Station系統。

三、匯聚超2200萬名開發者,Kleidi軟件庫累計安裝超80億次

Bergey認(ren)為,構建(jian)AI系統有三(san)個關鍵因素:

首先,從云端(duan)到(dao)邊緣打造一(yi)個無處不在的(de)平(ping)臺將(jiang)具(ju)有(you)極(ji)大的(de)價值,因(yin)為很多時候AI是在端(duan)側運行(xing)的(de),但在某些情況下,又(you)希望能夠將(jiang)工作負(fu)載轉移(yi)到(dao)云端(duan)。因(yin)此,擁(yong)有(you)一(yi)個高(gao)度且可移(yi)植(zhi)的(de)平(ping)臺,對于推動先進技術及(ji)產品(pin)的(de)實現,以及(ji)為現有(you)產品(pin)增加新功(gong)能,都非常有(you)價值。

二是電力和每瓦性(xing)能。AI極為耗(hao)電,數據中(zhong)心能耗(hao)從(cong)兆瓦級(ji)(MW)躍升至吉瓦(GW)級(ji),其中(zhong)超過(guo)50%實際上來自于(yu)機(ji)架和半(ban)導體設備。“每瓦性(xing)能”將是關鍵衡量指標。

三是(shi)軟件。強大的軟件生態進一步催生了更多硬件的發(fa)展機(ji)會。

在Bergey看(kan)來,要在端側AI中(zhong)兼顧算力與能效,芯片(pian)設(she)計(ji)也有(you)三個關鍵要素:一是內(nei)存(cun)帶寬,二是確保(bao)在平臺(tai)中(zhong)集成(cheng)強(qiang)大、靈活性高(gao)的硬件(jian),三是軟件(jian)。如果沒有(you)成(cheng)熟的軟件(jian)及(ji)其生態系統(tong),要跟上所有(you)行業標準和各種AI框(kuang)架,將會(hui)是一項非常繁重且具有(you)挑戰性的工作。

目前,Arm已有超過2200萬名開(kai)發者在Arm平臺上(shang)進行開(kai)發。Arm持續大力投資軟件,協助開(kai)發者在開(kai)發的過程(cheng)中降低復(fu)雜度、并提(ti)高效率。

Bergey補(bu)充道,開發者僅需一(yi)次(ci)開發,就能在整個半導體生態系(xi)統中(zhong)眾多(duo)采用Arm?CPU的SoC上運行。

在去年的COMPUTEX上,Arm發布了Arm Kleidi軟件庫,讓開發者(zhe)能在各種AI模型與工作負載上實時獲(huo)得最(zui)佳的性能表現。

Kleidi推出后(hou)僅一年(nian),已(yi)整(zheng)合(he)至多個主流AI框(kuang)架中,包括(kuo)ExecuTorch、PyTorch、Angel、llama.cpp、MediaPipe、MNN以及ONNX Runtime。

迄今為止,Kleidi已在搭載Arm架構的設備上累計超過80億(yi)次(ci)安裝,且仍在持續增長中(zhong)。

對話Arm高級副總裁:今年推新旗艦Travis CPU,帶來雙位數IPC性能提升

結語:AI轉型依賴持續創新

Bergey在COMPUTEX主題(ti)演(yan)講末尾強調,AI時代是一場千(qian)載(zai)難(nan)逢的(de)機會,能(neng)夠重新定義科技如何影(ying)響世(shi)界。但要真正實現這項潛(qian)力,仍依賴(lai)持續創(chuang)新,以及與Arm世(shi)界級生態系(xi)統的(de)深度(du)合(he)作。

過去18個(ge)月內,有超(chao)過150個(ge)涵蓋語(yu)音(yin)、圖像、文(wen)字與(yu)視頻生(sheng)成的(de)基礎模型面世。原本只(zhi)存在于云端(duan)(duan)的(de)AI助理(li),如今(jin)也正優先(xian)在邊緣設備上(shang)開發,推動AI推理(li)作業由云端(duan)(duan)轉向邊緣應用。

推理是AI實(shi)際運(yun)行并創造價值的(de)環節,是真(zhen)正驅動未來創新與商業價值的(de)關鍵。AI agents也正快速(su)增長,這些系(xi)統(tong)能(neng)夠獨立執行復雜任務、彼此協作(zuo),并在大規模下自動運(yun)行。這將(jiang)成為物(wu)理AI的(de)基礎,使AI從(cong)數字世(shi)界延伸至真(zhen)實(shi)的(de)物(wu)理環境,例如(ru)機器人。

據Bergey觀(guan)察,AI agents方(fang)面已(yi)經(jing)有一些非常(chang)有趣的應用(yong)場景和非常(chang)成功的商業(ye)項(xiang)目或初創(chuang)公司,兩個頗受關注的領域(yu)是AI編程和AI客服。物理AI也蘊藏著(zhu)巨大(da)機遇,一些機器人技術已(yi)經(jing)落地應用(yong),接(jie)下(xia)來一到三年,機器人設備有望(wang)在自(zi)主(zhu)模式下(xia)具備媲美人類操作的表現。

具備可擴展性且(qie)高效率(lv)的計算(suan),在未來會(hui)變得(de)更加(jia)重要(yao)。

從云端(duan)到(dao)邊緣(yuan),Arm的(de)計算平臺正處于(yu)AI轉型的(de)核心。Arm及其世界級生態系統(tong)持(chi)續(xu)在硬件與軟件領(ling)域不斷(duan)創新(xin)與投入,以(yi)實現下一波(bo)即將改變數十億人生活的(de)AI浪潮。