
芯東西(公眾號:aichip001)
作者 | ?ZeR0
編輯 | ?漠影
芯東西11月19日報(bao)道,在(zai)今日舉行(xing)的Arm Tech Symposia年度技(ji)術(shu)大會上,Arm基礎(chu)設施事業部(bu)產品解決方案(an)副總裁Dermot O’ Driscoll分(fen)享了Arm面向基礎(chu)設施及汽車(che)領(ling)域的最新(xin)進展及技(ji)術(shu)創新(xin),并與芯東西等媒體進行(xing)深入交流。
期間,Arm深入(ru)探討了AI對(dui)計(ji)算(suan)(suan)的(de)需(xu)求,并分享(xiang)了其作(zuo)為計(ji)算(suan)(suan)平臺公司(si)如何通過全面的(de)計(ji)算(suan)(suan)子系統(CSS)、從(cong)云到(dao)端的(de)軟(ruan)件開發賦能(neng)、緊(jin)密合作(zuo)的(de)生態系統三(san)大核心,助力合作(zuo)伙(huo)伴把握AI的(de)發展機遇。
在媒(mei)體溝通會上,Driscoll回(hui)應了(le)對(dui)英特(te)爾(er)AMD近期(qi)成立x86生態系統顧問小(xiao)組(zu)的(de)看法:“我們(men)也(ye)覺得挺有意思的(de),英特(te)爾(er)現在(zai)才決定要創建一個顧問小(xiao)組(zu)來確保(bao)他們(men)的(de)軟件(jian)可以跨平臺運行。我們(men)已(yi)經(jing)做(zuo)了(le)30年。”
他看到中(zhong)(zhong)國市場對數(shu)據中(zhong)(zhong)心(xin)業務(wu)的(de)興趣愈發濃厚,中(zhong)(zhong)國開(kai)發者數(shu)量增長(chang),對遷移解決方(fang)案的(de)需求也在增多。
Arm致力于與行業領導(dao)者合作,進一(yi)步推動(dong)它們在消(xiao)費市場的業務發展。在Dermot O’ Driscoll看來(lai),大廠需要的不是(shi)標準(zhun)品,而是(shi)定(ding)制化解決方案,只有Arm可(ke)以提供這樣的(de)靈(ling)活(huo)性。
不過(guo)他并沒有(you)直接(jie)回(hui)應Neoverse系列的后續(xu)規劃,而是說Arm一貫只(zhi)有(you)在(zai)技術準備(bei)時,才會披露(lu)技術路(lu)線圖。Arm將加強與中(zhong)國地區合作伙伴的(de)密切合作,開發面向未來業務的(de)產品。
本場大(da)會聚(ju)焦生成式AI、邊緣AI、大(da)語言模型、Chiplet技術(shu)、AI基礎設(she)施、智能(neng)駕駛等前沿(yan)科技,旨在(zai)推(tui)動(dong)AI技術(shu)在(zai)Arm生態系統中展開進一(yi)(yi)步的交流與合(he)作,并匯聚(ju)了(le)阿里云、聯(lian)想(xiang)、小(xiao)鵬等不同領域(yu)的戰略伙伴,一(yi)(yi)展Arm繁榮多元的生態。
聯想全球中小企(qi)業產(chan)品(pin)和解決方案(an)總經(jing)理鄭愛國談道,聯想將(jiang)Windows on Arm(WoA)視為一(yi)(yi)項前(qian)瞻性的(de)長期戰略(lve)布局,一(yi)(yi)方面(mian)不(bu)斷投入以構建領先的(de)產(chan)品(pin),另一(yi)(yi)方面(mian)將(jiang)繼續與合作伙(huo)伴(ban)共同推進這一(yi)(yi)生(sheng)態的(de)發展。
一、到2025年,AI+Arm設備將超過1000億臺
AI加(jia)速已是時代(dai)主線。Dermot O’Driscoll在大(da)會主(zhu)題(ti)演講(jiang)中(zhong)強調,自(zi)轉型(xing)成為計算平臺公司以來(lai),Arm通(tong)過軟(ruan)硬件深度融合和架(jia)構創(chuang)新,持(chi)續在AI時代(dai)引領計算變(bian)革。
他舉了一些中(zhong)國正在引領全球AI創新的(de)例子,比(bi)如今年中(zhong)國PC市場的(de)AI PC占比(bi)有望(wang)達到55%、以AI為(wei)先(xian)的(de)數(shu)據中(zhong)心增幅將(jiang)達到500%,預計(ji)到2032年AI將(jiang)產(chan)生超過1.1萬億(yi)美(mei)元的(de)產(chan)值。
預計到(dao)2025年(nian)底,全球將有超過1000億臺(tai)具備(bei)AI能力的Arm設備(bei)。
Dermot O’ Driscoll提到發揮(hui)AI潛力需要軟件和(he)固件、先(xian)進代工支持、強大的第三方(fang)IP、專業(ye)設(she)計服(fu)務。
在硬(ying)件投資方面,Armv8 64位架構在10多年前發布(bu)。進入AI時(shi)代(dai),Arm推出了Armv9。
Armv9有兩個(ge)關鍵架構(gou)SVE2(可(ke)伸縮向量(liang)擴展)和SME(可(ke)伸縮矩陣擴展)。
SVE2在聯發科天璣9400等旗艦手機芯片(pian)中已部(bu)署,進一(yi)步(bu)加速了開(kai)發者和終端(duan)用(yong)戶獲益(yi)的(de)工作(zuo)負載(zai),提高了視頻和圖像(xiang)處理能力,可提供更好的(de)照片(pian)質(zhi)量、更長的(de)電池壽(shou)命(ming)。SME建立在(zai)SVE2的基礎(chu)之上,新增了高效處理(li)矩陣的能力,架構(gou)專(zhuan)為(wei)AI而設計(ji)。
Dermot O’ Driscoll談道,目前市(shi)場上大部分創新基于AI訓(xun)練(lian),預測今后會(hui)看到更多關(guan)于(yu)推理方面的創新。
二、用CSS加速產品上市,助攻Chiplet方案部署
如今,Arm采用更全面(mian)的系統級設計(ji)思(si)維,專(zhuan)注硬件與軟件的協同優化(hua),針(zhen)對(dui)不同應(ying)(ying)用市場帶來對(dui)應(ying)(ying)的計(ji)算子系統(CSS),擴展底層技術鞏固AI計(ji)算需求(qiu)。
AI比以(yi)往任何一(yi)代技術都更加耗電、耗內存。為(wei)了更好(hao)提(ti)升Arm計算(suan)平臺的性能,Arm開發了CSS,以(yi)進一(yi)步(bu)加速(su)產品(pin)上市時間(jian),搭配強大的軟件(jian)解決方案,并在硬(ying)件(jian)準(zhun)備好(hao)推向市場時即可使用軟件(jian)。
Arm對CSS的(de)發展充(chong)滿信心,因為市場(chang)需(xu)求非常大。在基礎設施(shi)、汽車領域,Arm都(dou)推出(chu)了(le)相關產品。無(wu)論是(shi)汽車、基礎設施(shi)還是(shi)端側,每個市場(chang)的(de)要求不同,Arm會(hui)做適(shi)應(ying)性的(de)調整。
談到生態領域的成(cheng)果,Dermot O’Driscoll補充道(dao):“自推出(chu)Arm全面設計(Arm Total Design)生態項目一年以來,成(cheng)員規模(mo)已經達到30家。Arm計算子(zi)系(xi)統和Arm全面設計正推動軟硬件的快速發展,讓合作伙伴能夠輕松打造(zao)更廣泛、更高級的解決方案,加速推動芯(xin)片(pian)和AI領域的創新。”
AI發展需要(yao)定制芯(xin)(xin)片,而定制芯(xin)(xin)片需要(yao)通(tong)力合作(zuo)來(lai)實(shi)現。Arm已通(tong)過Chiplet系統(tong)架構(CSA)與約50家(jia)領先企業展開了合作(zuo)。
據Dermot O’ Driscoll透露,在基礎(chu)設施業(ye)務方面,Arm有(you)很多合作伙伴成功(gong)地部(bu)署了Chiplet解(jie)決方案(an)。
Arm有專門的標準架構(gou)來確保Chiplet有效工作和(he)互(hu)聯(lian),可形成一個通用生(sheng)態體系(xi)。該公司會幫助(zhu)早期合作伙伴測試Chiplet解決方案(an),使其(qi)變得更加普遍,進(jin)一步提高利用率(lv)。
Dermot O’ Driscoll談道,Arm的一個獨特定(ding)位是能夠實現標準化(hua),與生態伙伴共同制定(ding)行(xing)業(ye)所需的標準。
三(san)、軟(ruan)件(jian)是(shi)重中之重
軟件始終是Arm計算平臺的重要組成部分。Arm相信不管在任何硬件(jian)平臺上,都需要(yao)不斷優化軟件(jian)。
在(zai)軟(ruan)件方面,Arm今后(hou)的投資會更加關注于AI能力的提升,將(jiang)一如既(ji)往地投資創新(xin)軟(ruan)件技術,為開(kai)發者提供從云到端、高效、易用(yong)、無縫的開(kai)發體驗,賦能軟(ruan)件創新(xin)。
Arm能(neng)夠幫(bang)助(zhu)開發(fa)者簡化(hua)流程,加速(su)產(chan)品(pin)上市(shi),節約成本。Dermot O’ Driscoll提(ti)(ti)到了Arm的(de)一些希望:1)在硬件平臺中提(ti)(ti)供(gong)加速(su)功能(neng),以便更(geng)多(duo)(duo)合作伙(huo)伴借助(zhu)異構(gou)計(ji)算(suan)的(de)能(neng)力;2)提(ti)(ti)升(sheng)系(xi)統(tong)易(yi)用性,提(ti)(ti)高開發(fa)效率;3)使開發(fa)人員可將更(geng)多(duo)(duo)時間精力放在他們(men)所(suo)開發(fa)的(de)應(ying)用程序上,而(er)無需過多(duo)(duo)關(guan)注硬件細節。
Arm的(de)AI軟件生態系(xi)統能夠確保全球(qiu)領先(xian)的(de)AI框架(jia)在(zai)Arm上開箱即用,并達到(dao)最(zui)佳運行水平(ping)。
Arm推(tui)出的KleidiAI微內核非(fei)常(chang)易于集成,已經為生成式 AI工作負載帶(dai)來了顯著的性能提升。與參考(kao)實現方(fang)案(an)相比,在新的Arm Cortex-X925 CPU上,使用集成了 KleidiAI的llama.cpp的Meta Llama 3和微軟Phi-3大語言模(mo)型的Token首次響應時間加快了190%。
據Dermot O’ Driscoll分享,Arm關(guan)注的(de)(de)要點是(shi)向(xiang)市(shi)場(chang)推出更(geng)優化的(de)(de)解決方(fang)案,支持產品的(de)(de)快速上市(shi),并提(ti)供(gong)強大(da)的(de)(de)軟(ruan)件(jian)生態系(xi)統支持。OEM商非常喜歡(huan)這種解決方(fang)案,因為他們可(ke)以快速打造新產品。
他談到(dao)Arm計算(suan)平(ping)臺(tai)能(neng)夠脫穎而(er)出的(de)一個特(te)點是擁(yong)有龐(pang)大(da)的(de)開(kai)發(fa)人員。Arm擁(yong)有全球(qiu)最大(da)的(de)軟件開(kai)發(fa)社(she)(she)區(qu)之一,在Arm平(ping)臺(tai)上進行(xing)開(kai)發(fa)的(de)全球(qiu)開(kai)發(fa)者數量(liang)超(chao)過2000萬人。Arm在開(kai)源(yuan)社(she)(she)區(qu)方面進行(xing)了大(da)量(liang)投資,同(tong)時(shi)非常關注和支(zhi)持中國當地的(de)生(sheng)態系(xi)統(tong)發(fa)展(zhan),比(bi)如(ru)龍蜥社(she)(she)區(qu)。
結語:從底層技術出發,驅動AI計算平臺
迄今(jin)為止(zhi),合作伙(huo)伴基于(yu)Arm架(jia)構的(de)芯(xin)片出貨量已(yi)超過3000億(yi)顆。從(cong)大(da)型數據中(zhong)心中(zhong)用(yong)于(yu)訓練大(da)語言模型的(de)海量處(chu)理器,到全球用(yong)戶每天(tian)接觸(chu)的(de)端側(ce)AI設備,Arm平臺已(yi)成為未來AI運行的(de)基石。
低功耗刻在(zai)Arm的DNA里。Arm希(xi)望(wang)向市(shi)場(chang)提供最高效節能(neng)的產品(pin)及解(jie)決方案(an),相信能(neng)效水平是Arm在基礎設(she)施市場取得成功的關鍵。
Arm的很多客戶在(zai)使(shi)用異構計算。Dermot O’ Driscoll說,Arm的(de)(de)最終目標(biao)是,在(zai)任何(he)需要(yao)異構(gou)計算方案的(de)(de)地方都(dou)會看到Arm。
作為全球最大的(de)技術生態系(xi)統之一(yi),Arm通過包(bao)括全面(mian)設計(Arm Total Design)在內的(de)眾(zhong)多生態項目(mu),希(xi)望協助合作伙伴(ban)加速產品上市進(jin)程。