
智東西(公眾號:zhidxcom)
作者 | 云鵬
編輯 | 李水青
智(zhi)東西(xi)11月(yue)29日報道,今天(tian)Arm在北京舉辦了年度(du)(du)技術(shu)大會(hui),會(hui)后智(zhi)東西(xi)與(yu)少(shao)數(shu)業(ye)內媒體一起與(yu)Arm高(gao)(gao)級副總(zong)裁兼(jian)基礎設施(shi)事業(ye)部總(zong)經理Mohamed Awad等(deng)高(gao)(gao)管(guan)進(jin)行了面對面深度(du)(du)交(jiao)流。
Awad在(zai)溝通會(hui)上(shang)首(shou)先對上(shang)午演講中(zhong)的(de)重點信息(xi)進(jin)行了總結,他的(de)一(yi)個(ge)(ge)觀(guan)點令人印(yin)象深刻,在(zai)AI新(xin)時(shi)代,Arm要做的(de)并(bing)不是打(da)造(zao)一(yi)個(ge)(ge)“完美的(de)架構”,而是為更(geng)(geng)多企(qi)業的(de)創新(xin)提供一(yi)個(ge)(ge)更(geng)(geng)好(hao)的(de)“平(ping)臺(tai)”,廠商們基于Arm架構可以設(she)計出(chu)(chu)更(geng)(geng)多出(chu)(chu)色(se)的(de)芯片(pian)產品,例如(ru)英偉達的(de)GH200 Grace Hopper。
AI大(da)模型是當下(xia)科技(ji)產業(ye)討論中避不開的一(yi)(yi)個話題,Awad說(shuo),AI技(ji)術發(fa)展(zhan)太快了,我們(men)每次討論的內容(rong)都可能不一(yi)(yi)樣,在(zai)他看(kan)來(lai),AI領域最(zui)大(da)的挑戰之一(yi)(yi)就(jiu)是內存帶寬,解決這樣的挑戰需(xu)要新的系統架構(gou),提(ti)高(gao)內存一(yi)(yi)致性。系統架構(gou)的靈(ling)活性、強大(da)的生態系統至(zhi)關重要,這些都是滿(man)足(zu)AI大(da)模型發(fa)展(zhan)需(xu)求的關鍵。
目前,從最小的設備到(dao)最大的數(shu)據中心,AI將(jiang)會(hui)無處不(bu)在,每(mei)個涉及(ji)計算的領域(yu)都需要更多算力(li)、更多加速能(neng)力(li)。對于Arm而言,這是巨大的機會(hui)。
最近智能手機、PC等產品都在向生成式AI靠攏,比如提出AI PC的概(gai)念,Arm作(zuo)為底層芯片(pian)技術提供商,對此是如何思考和(he)布局的?AI大模型會給(gei)移動芯片(pian)生態帶(dai)來哪些(xie)變(bian)化?
對(dui)于(yu)智(zhi)東西提出的這(zhe)些問題,Awad給出了自己的看法,他提到,AI大(da)模型的訓練更多會發生在(zai)云(yun)端,而(er)推理過程(cheng)則會發生在(zai)各個節點,從端側(ce)設備到云(yun)端。
從(cong)提升計算性(xing)能的角度來看,實現(xian)軟(ruan)硬件的緊密耦合是(shi)必須的,包括CPU、NPU、GPU,整個(ge)計算系(xi)統。系(xi)統中的各個(ge)器件都不是(shi)孤立的。
對于云巨(ju)(ju)頭(tou)(tou)自研(yan)芯(xin)片的產業趨勢,Awad認為,五年(nian)以(yi)前(qian),在(zai)基礎設(she)施建設(she)方面,廠商會購買預配置好(hao)的芯(xin)片,購置服務(wu)器,但如今(jin)云計算巨(ju)(ju)頭(tou)(tou)都在(zai)自研(yan)芯(xin)片。
云巨頭自研的(de)目的(de)并不只是為了降低成本,其最(zui)主要(yao)的(de)目的(de)是把每一顆芯片的(de)性(xing)能(neng)(neng)、效(xiao)能(neng)(neng)做到(dao)極(ji)致,根據自己的(de)工作負載、圍(wei)繞自己的(de)數據中心進(jin)行個性(xing)化定制。正(zheng)因為有(you)這(zhe)樣的(de)優化,他們才越來越不懼怕日(ri)益增長的(de)數據處(chu)理需求,從而為“GPTs”時(shi)代做好(hao)準備。
在基礎設施建設領域,Arm Neoverse計算子系統(CSS)的核心優(you)勢(shi)是(shi)可以提供“預(yu)集成”,比如(ru)配(pei)(pei)置64核芯(xin)片(pian)和互聯(lian)模塊的產品,亞馬遜(xun)AWS對芯(xin)片(pian)物理層的配(pei)(pei)置做(zuo)(zuo)了(le)一些(xie)改變,這些(xie)意味著需要做(zuo)(zuo)很多工(gong)作,例如(ru)I/O接口(kou)加速(su),而Arm的CSS已經將這些(xie)基礎工(gong)作做(zuo)(zuo)完了(le)。
對于Arm的合作伙(huo)伴來說,廠商(shang)有很多選擇,比如選擇開箱即用的方(fang)案,或者使用芯粒、離散IP等方(fang)案。
在溝通后的參觀環節,我們(men)看到基(ji)(ji)于Arm的云實(shi)例相比基(ji)(ji)于x86的云實(shi)例在性能(neng)和成本上都(dou)有比較明(ming)顯(xian)的優勢(shi),在芯片EDA設(she)計、視(shi)頻編解碼等應用場景中優勢(shi)比較明(ming)顯(xian)。
結語:構建AI時代的“基礎設施”,生成式AI加速Arm生態成長
在交流中(zhong),我(wo)們能看到Arm對于(yu)自(zi)身在AI新時代(dai)的機遇和挑(tiao)戰都有比較清(qing)晰的認識,同時Arm給自(zi)己在產業中(zhong)的定位似(si)(si)乎更(geng)傾(qing)向于(yu)底(di)層平臺提供方(fang),類(lei)似(si)(si)AI時代(dai)的“基(ji)礎設施”建設者,基(ji)于(yu)自(zi)身硬件、軟(ruan)件、生(sheng)態層面的優勢技(ji)術,賦能芯(xin)片廠商。
面向未來的(de)AI大模型時代,例如高通、聯發(fa)科等移動芯(xin)(xin)片廠(chang)商,微軟、亞馬遜等云巨頭都在(zai)芯(xin)(xin)片領域有更多新(xin)的(de)布局,生(sheng)成式AI在(zai)移動芯(xin)(xin)片、服務器(qi)芯(xin)(xin)片市場也掀(xian)起了新(xin)的(de)技術革新(xin)浪潮,Arm生(sheng)態無疑會繼續加速成長。