智東西(公眾號:zhidxcom)
作者 | ?ZeR0
編輯 | ?漠影

上周,全(quan)(quan)球最大云計(ji)算巨頭(tou)亞馬(ma)遜云科(ke)技(ji)自主研(yan)發的Graviton4處(chu)理器全(quan)(quan)面上市,最初(chu)為(wei)全(quan)(quan)新實例Amazon EC2 R8g提供支持。

這件事(shi)還挺讓人(ren)感(gan)慨,有(you)種Arm服務器(qi)CPU千帆(fan)過盡(jin)、苦盡(jin)甘來的既(ji)視(shi)感(gan)。

服務(wu)器CPU領(ling)域曾經上演風水輪流轉(zhuan),早期由一眾精簡指令(ling)集前輩(bei)(bei)一統天下,后來被復雜指令(ling)集架構x86逆襲蠶食(shi)。等精簡指令(ling)集中的后輩(bei)(bei)Arm想(xiang)闖數據中心賽道時,x86早已(yi)全面霸場。

其實Arm早在2008年就(jiu)對這個新興(xing)市場(chang)躍(yue)躍(yue)欲(yu)試(shi),結果一晃(huang)十年過去,幾(ji)經試(shi)水,愣是沒激起零星的水花。

第一張進(jin)入數據中(zhong)心市場的門(men)票,還是云計算產業(ye)老大哥亞馬遜云科(ke)技送來的。

當時亞馬遜云(yun)科技發了個“三連擊”:

1、2015年(nian)1月,出其不(bu)意地收購(gou)以色列芯片設(she)計企業Annapurna Labs,引起產業密(mi)切關注;

2、2017年,推出首款自研網絡芯片Amazon Nitro,把全球第一款商用的DPU芯片送上歷史舞臺;

3、2018年,發布首款Amazon?Graviton處(chu)理器(qi),讓Arm服務(wu)器(qi)CPU在(zai)數據(ju)中心歷(li)史中有(you)了清晰的坐標。

隨(sui)后亞馬遜(xun)云科(ke)技緊鑼密鼓開展了教科(ke)書般的多線定(ding)制芯片攻(gong)關(guan),其他(ta)中美(mei)大廠也相繼跟上(shang)自(zi)研處理器(qi)的風潮。漫(man)長(chang)的服務器(qi)CPU拉鋸戰,終于從x86單方面碾壓,變成Arm陣營聲勢漸(jian)漲。

Graviton亦逐漸(jian)坐穩全球(qiu)最廣泛使用的(de)Arm服務器CPU,亞馬遜云科技更是被視(shi)作帶領(ling)Arm生態在數據中心(xin)開(kai)疆辟土的(de)“全村的(de)希望(wang)”。伯恩斯坦去年的(de)一份(fen)報(bao)告(gao)顯(xian)示,亞馬遜云科技占據了全球(qiu)超過一半的(de)Arm服務器CPU市場。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了▲亞(ya)馬遜云(yun)科技(ji)五年發布(bu)五款Graviton處理器(qi)(圖源:智東(dong)西)

今天,大廠自(zi)研(yan)芯片屢見不鮮,但成功者寥(liao)寥(liao)可(ke)數。亞馬遜云科技用五(wu)年寫(xie)出的這本自(zi)研(yan)服務(wu)器CPU參考教(jiao)材(cai),值(zhi)得被反復咀嚼。

一、六年死磕CPU自研創新,給Arm服務器芯片開路

一代開山(shan)路,二(er)代奠江(jiang)湖。

這是亞馬(ma)遜云科技自研服(fu)務器芯片發(fa)家(jia)的(de)真實寫(xie)照:2018年11月(yue)發(fa)布的(de)Graviton處理器,發(fa)出了云計算大廠自研CPU的(de)第一聲(sheng)槍(qiang)響;一年后,繼任者(zhe)Graviton2出場(chang),標(biao)志著Arm服(fu)務器CPU正(zheng)式(shi)進入數據中(zhong)心(xin)市場(chang)競爭中(zhong),與(yu)x86掰手腕。

Graviton2集成了(le)(le)(le)300億顆(ke)晶體管,核心(xin)數量足足是上一代(dai)的(de)4倍,并(bing)翻倍提(ti)升(sheng)了(le)(le)(le)L1/L2緩存,總線帶寬達到2TB/s,相比上一代(dai)實現了(le)(le)(le)7倍的(de)性(xing)能(neng)提(ti)升(sheng)。與基于x86的(de)同(tong)類(lei)實例相比,基于Graviton2的(de)實例性(xing)能(neng)提(ti)高了(le)(le)(le)40%,每(mei)個實例成本降(jiang)低了(le)(le)(le)20%。

在低(di)功耗(hao)上的(de)出色表現,使(shi)亞(ya)馬遜云科技大舉將(jiang)通用工作負(fu)載(zai)轉移到Graviton2上,以節省(sheng)電力和成本(ben)。此后(hou),Graviton系列的(de)采用率飆升,覆蓋的(de)工作負(fu)載(zai)從起(qi)初的(de)Cache和Web擴展(zhan)到數據分析、機器(qi)學(xue)習、高性能計算等。

Graviton在(zai)市場的初步告捷,堪稱改變(bian)Arm命運的節點(dian)。

這背(bei)后,亞(ya)馬遜(xun)云科(ke)技在(zai)底層(ceng)創(chuang)新上(shang)頗費心思:首(shou)次不再使(shi)用同步多線(xian)程技術,而是實(shi)現物理(li)核(he)心單線(xian)程資源獨享,讓每個(ge)vCPU獨占1個(ge)物理(li)核(he)心,使(shi)vCPU之間(jian)更加隔離,不會(hui)因爭搶資源而導致(zhi)性(xing)能抖動。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了

從第(di)(di)一代(dai)到第(di)(di)二代(dai),Graviton通過(guo)增(zeng)加核數取(qu)得了可觀的性能提(ti)升,但(dan)到第(di)(di)三(san)代(dai),亞馬遜云科技需(xu)要納入更多的設計(ji)創新(xin)。

增加(jia)核(he)數(shu)、提(ti)升(sheng)主頻(pin)(pin),是提(ti)升(sheng)性能的(de)兩個常(chang)見手(shou)段。2021年(nian)發布(bu)的(de)第三(san)代Graviton3沒有(you)采(cai)用這些思路,核(he)心數(shu)不變,主頻(pin)(pin)僅略(lve)微提(ti)升(sheng)。因(yin)為提(ti)高(gao)頻(pin)(pin)率對于大規模(mo)數(shu)據中心來(lai)說會(hui)比較冒險,可能會(hui)帶來(lai)大量的(de)能耗(hao),而且需要搭配(pei)升(sheng)級的(de)電源及散(san)熱配(pei)置,最終導(dao)致(zhi)客戶(hu)的(de)使用成(cheng)本上(shang)升(sheng)。

Graviton3做了幾項有別于前代的創新:

1、采用Chiplet設計(ji),將(jiang)7塊硅(gui)die封(feng)裝在一(yi)起;

2、采用(yong)指令級并(bing)行(xing)方(fang)法,提高了單(dan)個核心(xin)周期可執行(xing)的指令數量(liang),使核心(xin)能完(wan)成更多任(ren)務;

3、針對內(nei)存帶寬和(he)延時敏感型工作負載,增加了40%的內(nei)存空間,并采用DDR5將內(nei)存通道帶寬提升50%。

結果,相(xiang)比(bi)上一代,Graviton3能(neng)將應用負載的性(xing)(xing)能(neng)無差別提(ti)升(sheng)(sheng)25%,功耗(hao)相(xiang)比(bi)x86實例降低多達60%。通過內置(zhi)機(ji)器(qi)學習(xi)硬件加(jia)速單元,這顆處理(li)器(qi)還實現(xian)了3倍的機(ji)器(qi)學習(xi)性(xing)(xing)能(neng)提(ti)升(sheng)(sheng),并被AI研(yan)究人(ren)員和企業(ye)用于云中(zhong)的MLOps。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了

2022年推(tui)出的(de)Graviton3E,專(zhuan)門針對浮點和向量指令(ling)運算(suan)進行了優化,向量計算(suan)性(xing)能達(da)到Graviton3的(de)2倍,尤其適用于人工智能/機器(qi)學習、高性(xing)能計算(suan)等應用場景。

最新一代Graviton4用上了更好的Neoverse-V2核心,并將(jiang)核心數增加到96核,每個核心的L2緩存提(ti)升1倍(bei)至2MB,內存帶寬提(ti)升75%。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了

每一(yi)代Graviton都(dou)會較上一(yi)代有兩位數的性能(neng)(neng)提(ti)升,并(bing)且單(dan)位算(suan)力功耗不斷下降。而節(jie)能(neng)(neng)減(jian)排(pai)對于數據(ju)中(zhong)心(xin)的可持續(xu)發展極(ji)其重要(yao),Twitter、Databricks、F1方程式賽車、Snap等知名云客戶都(dou)使用了(le)基(ji)于Graviton的服務,并(bing)對其降本(ben)增效的優勢贊譽有加。

據(ju)外媒(mei)報道,到2022年年中,Graviton約占亞馬遜云科(ke)技CPU實例的20%,其中大部分(fen)是Graviton2,亞馬遜云科(ke)技新增虛機實例中約50%都是Graviton系列。

一些云(yun)客(ke)戶公開背書稱,他們通過租用Graviton服務節省了10%~40%的計算成本。

作為Graviton早(zao)期用(yong)戶(hu)的(de)大宇無(wu)限,用(yong)Graviton2將大數據作業(ye)的(de)成本(ben)降低了20%;大量使用(yong)Graviton2實例的(de)涂鴉也升(sheng)級到新一(yi)代實例,將IoT平臺(tai)加解密性能提高50%。

根據(ju)市場(chang)調研機構IDC的數據(ju),2023年(nian)第一季度Arm服務(wu)(wu)器出貨量市占(zhan)率(lv)約為10%。此時(shi)Arm在服務(wu)(wu)器市場(chang)的生態問題已(yi)經初步得到(dao)解決。

截至目前,亞馬遜云科技在全球六大洲33個(ge)(ge)地(di)區和(he)100多(duo)個(ge)(ge)可用區累(lei)計部署了超(chao)過200萬(wan)張(zhang)Graviton處理器。這(zhe)些處理器驅動了超(chao)過150種計算實(shi)例(li),被全球超(chao)過5萬(wan)的企(qi)業(ye)和(he)開發者所使用。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了

二、唯一實現大規模使用Arm架構的云大廠

在服(fu)務云客戶的(de)過程中(zhong),亞馬(ma)遜云科技(ji)團(tuan)隊(dui)發(fa)現(xian)如果(guo)希望針對(dui)所有可能(neng)的(de)工(gong)作負載徹底(di)變革(ge)計算的(de)性價比,需要徹底(di)重新思考實例,深入(ru)底(di)層技(ji)術(shu),包(bao)括定制(zhi)芯(xin)片。

為什么是基于Arm架構設計芯片?

對(dui)于亞馬遜云科(ke)技來(lai)說,這既是(shi)形勢所(suo)迫,又(you)是(shi)前瞻布局。

首先(xian),Arm的(de)(de)許可證(zheng)相對易得,而且設計自由(you)度高,便于亞馬遜云科技(ji)設計出更(geng)符合云業務需求的(de)(de)處(chu)理器(qi)。

其次,省電長(chang)期是數據中心的老大難(nan)。考慮到規(gui)模效(xiao)(xiao)應,每個芯片節省的幾瓦(wa)特都很重要。而(er)Arm已經被移動處理器(qi)市場檢驗(yan)過高能(neng)效(xiao)(xiao)、高算力(li)密度、低成本等優勢。

另(ling)外前文我們提到過(guo),Graviton在(zai)(zai)(zai)提升頻(pin)率上很(hen)謹(jin)慎,通過(guo)更(geng)高(gao)(gao)的指令(ling)級(ji)并行來補足(zu)性能,使其(qi)在(zai)(zai)(zai)性價比(bi)上更(geng)有競爭力。在(zai)(zai)(zai)高(gao)(gao)CPU利用率下,Graviton中每個vCPU獨占一個物理核心,不存在(zai)(zai)(zai)爭用問(wen)題,能保持依然快的速度,其(qi)價格優勢則會(hui)變得明顯。

據亞馬遜云科(ke)技披露(lu),相(xiang)比采(cai)用(yong)Graviton3的(de)第(di)七代R7g實(shi)例,基于新一代Graviton4處(chu)理器的(de)Amazon EC2 R8g實(shi)例性(xing)能(neng)(neng)提高了30%,實(shi)例大小更(geng)(geng)大,vCPU和內(nei)存(cun)增加多出(chu)3倍,能(neng)(neng)為(wei)數(shu)據庫、內(nei)存(cun)緩存(cun)和實(shi)時大數(shu)據分(fen)析等內(nei)存(cun)密集型工作負載(zai)提供更(geng)(geng)好的(de)性(xing)價比。

與R7g實例(li)相比,R8g實例(li)可將(jiang)Web應用程序(xu)(xu)最高(gao)提速(su)(su)(su)30%,數據庫最高(gao)提速(su)(su)(su)40%、大型Java應用程序(xu)(xu)最高(gao)提速(su)(su)(su)45%。

其性能(neng)和性價比優勢已經得到一(yi)些實測驗證。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了

根據Phoronix發布的(de)一(yi)些(xie)基準測試結果,在相同vCPU數(shu)量時,新Graviton4核心大(da)致與(yu)英特爾Sapphire Rapids性能(neng)相當,同時能(neng)媲(pi)美AMD第(di)四代EPYC,在運行高性能(neng)計算、加(jia)密、代碼編譯、光線(xian)追蹤、數(shu)據庫、3D建模等工作負載時,代際進步整(zheng)體非常出色。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了▲經測試(shi),基(ji)(ji)于Graviton4的R8g實(shi)例性價比(bi)超過基(ji)(ji)于英特爾至強、AMD EPYC的亞(ya)馬遜云科技云實(shi)例(圖源:Phoronix.com)

作(zuo)為(wei)R8g實例首發客(ke)戶之一,Honeycomb分享稱Graviton4的吞(tun)吐量(liang)改進非(fei)常明顯,相(xiang)比(bi)四年(nian)前剛開(kai)始使(shi)用(yong)Graviton,每vCPU吞(tun)吐量(liang)提高了一倍(bei)多。他們準備在(zai)R8g實例系列正式(shi)發布后立即把整個(ge)工作(zuo)負載遷移(yi)到(dao)Graviton4上。

爆款游戲《堡壘之夜》的(de)制作公司Epic Games評價(jia)說,基于最新Graviton4的(de)EC2 R8g實例是基于他們測試過(guo)的(de)最快的(de)EC2實例,在其“最具競(jing)爭力和對延遲敏的(de)工作負載中表現(xian)出(chu)色”,可(ke)以充分提高游戲服務器的(de)性能(neng)。

對SAP HANA Cloud使用R8g實(shi)例(li)(li)的(de)初步(bu)測(ce)試(shi)結果(guo)顯示,與基于(yu)Graviton3的(de)實(shi)例(li)(li)相比,R8g實(shi)例(li)(li)的(de)分析性能可提(ti)升高達25%,事務性工作負載性能可提(ti)升高達40%。

云巨頭大暴走,自研CPU落地200萬張!新一輪芯片洗牌開始了▲R8g實例(li)不同(tong)規格對比(bi)

迄今(jin)為(wei)止,只有亞馬遜(xun)云(yun)科技真正實(shi)現(xian)了大規模使用Arm架構。

為什(shen)么是(shi)亞(ya)馬遜(xun)云(yun)科技?正如亞(ya)馬遜(xun)云(yun)科技大中華(hua)區解決方案架構總經理代聞在今(jin)年中國(guo)峰會上所言(yan):“只(zhi)有在云(yun)計算的(de)環境下(xia),才(cai)有機會做(zuo)這樣的(de)從應用到(dao)CPU的(de)全棧(zhan)創新。”

自研芯(xin)片不(bu)是紙上創新(xin),需(xu)要工(gong)程經驗(yan)的積累,不(bu)僅要追求高性能,而且要足(zu)夠(gou)的穩定可靠和高度(du)安(an)全。

用相同Arm微架構不代表就能做出一樣性能的CPU,設計出芯片也不代表就能取得量產和商業上的成功。光是幾百個CPU核心互連帶來的線性度和通信延時問題,就能難倒不少芯片團隊,更別提設計Arm服務器芯片還要突破生態難關。

亞馬(ma)遜云科技(ji)的研(yan)發思路(lu)是(shi)從對云客戶工作(zuo)負載的深刻理解(jie),逆向穿透到(dao)芯片設計。這種以客戶為中心的方(fang)法能讓亞馬(ma)遜云科技(ji)短期(qi)內(nei)進行調整(zheng),以快速適應市場動態。

以(yi)Graviton4為例,亞馬遜云科(ke)技首次面向實際應用設(she)計(ji)CPU架構,該處理器的(de)設(she)計(ji)工(gong)程(cheng)中(zhong)從傳統的(de)MicroBenchmark基(ji)準測試評(ping)價體系轉向以(yi)實際工(gong)作負載進行評(ping)價的(de)方法。比(bi)如,優化Cassandra數據庫、Groovy應用、nginx服(fu)務器,所需(xu)要的(de)前端和后端CPU參數是不(bu)一樣(yang)的(de)。

龐大(da)的客戶規(gui)模為(wei)亞(ya)馬遜云科技高筑壁壘。其遍布全球(qiu)的廣泛數據中心(xin)集(ji)群,能(neng)承(cheng)載Graviton系列處理器的落地。全球(qiu)最(zui)大(da)云計算(suan)業(ye)務所形成的規(gui)模效(xiao)應,又能(neng)為(wei)亞(ya)馬遜云科技有效(xiao)攤薄成本。

持續創(chuang)新的(de)云服務,使亞馬(ma)遜云科技能(neng)夠了解到(dao)使用最多的(de)應用及其資(zi)源消耗(hao)模式(shi),以(yi)此來挑選對(dui)用戶(hu)來說收益最高(gao)的(de)技術點,進(jin)行針對(dui)性優(you)化,快速改進(jin)軟件(jian)和硬件(jian)堆棧甚至是CPU設計,研發出相匹(pi)配的(de)vCPU和硬件(jian)核心。

同時(shi),亞馬(ma)遜的(de)(de)各(ge)條托管服務的(de)(de)產品線都使用(yong)統一的(de)(de)基(ji)礎(chu)設施(shi),因(yin)此(ci)Graviton創新可以(yi)及時(shi)應用(yong)到所有的(de)(de)托管服務里。用(yong)戶通過更換計算選項,就能輕松(song)享受到Graviton帶來的(de)(de)性價(jia)比提升。

用戶只(zhi)需(xu)關(guan)心哪款實例更(geng)能滿足需(xu)求,亞馬遜云科技負責將軟件的(de)遷移和學習(xi)成本(ben)打下來。通過將更(geng)多的(de)管理服務和Graviton做深度集(ji)成,從x86無縫遷移到(dao)Arm變得簡單(dan)快捷。

三、自研芯片如何影響云計算?

今天,自研芯(xin)(xin)片(pian)已經成科技大(da)廠(chang)的(de)標準動作,不管是降(jiang)本增(zeng)效、構建競爭優(you)勢,還(huan)是提高可控性、降(jiang)低第三方芯(xin)(xin)片(pian)企(qi)業依(yi)賴(lai),都是容易(yi)說服下(xia)游(you)客(ke)戶(hu)和投(tou)資者的(de)好故事(shi)。

但在(zai)九年前,當亞(ya)馬(ma)遜云科技率先踏出自研芯片之路時,這還是個超前的探索。

回溯云(yun)計(ji)算(suan)發展史,亞馬(ma)遜云(yun)科(ke)技在2006年發布(bu)首款EC2(彈性(xing)云(yun)計(ji)算(suan))實例定義被視作一個歷史時刻。隨后(hou)越來越多的企業逐漸接受云(yun)計(ji)算(suan)概念,并開始(shi)將自(zi)家應用遷移(yi)到云(yun)端。

現在(zai)亞馬(ma)遜(xun)云科(ke)技可以在(zai)云上(shang)順利運行幾萬個節點的(de)高性能(neng)(neng)計算集群來訓練大模型,能(neng)(neng)在(zai)云上(shang)處理高并發(fa)的(de)實(shi)時(shi)流媒體應用,這些在(zai)當時(shi)都是很難(nan)想象的(de)。要知道亞馬(ma)遜(xun)云科(ke)技的(de)第一款(kuan)EC2實(shi)例,主(zhu)頻只有(you)1.7GHz,網絡帶寬250Mbps,內存不到2GB,磁盤是只有(you)160GB的(de)機械盤。

在云計(ji)算業務剛起步的(de)幾年,亞馬遜云科技要(yao)解(jie)決很多棘(ji)手問題(ti),特(te)別(bie)令團(tuan)隊焦慮的(de)是:如(ru)果使用定制版Xen作(zuo)為(wei)虛擬化(hua)管理(li)程序,無(wu)論如(ru)何耗費大量(liang)時間(jian)來(lai)優化(hua)代碼(ma),虛擬層(ceng)始終會占(zhan)用主機資源,并(bing)且x86 CPU并(bing)不(bu)擅長處理(li)網絡(luo)流(liu)量(liang)。

直到(dao)2013年(nian),一家以色列芯片(pian)企(qi)業(ye)Annapurna Labs走進亞馬(ma)(ma)遜云(yun)科(ke)(ke)技的(de)視線。經過合(he)作,亞馬(ma)(ma)遜云(yun)科(ke)(ke)技首次將(jiang)網絡處理寫到(dao)硬件(jian)。驚喜的(de)落地表現,讓亞馬(ma)(ma)遜云(yun)科(ke)(ke)技盯(ding)上了這家出色的(de)合(he)作伙伴:2015年(nian)1月,亞馬(ma)(ma)遜云(yun)科(ke)(ke)技宣布收購Annapurna Labs,自此踏(ta)上自研芯片(pian)的(de)旅程。

回過頭來看,這絕對是亞馬遜云科技歷史上一筆精明的投資。

就(jiu)在這一交易的兩年后,亞馬遜(xun)云科技對外宣布Nitro虛擬化平臺,將安全、管(guan)理、監控(kong)全部卸載到硬件上,將主機算力近(jin)乎100%地(di)提供給客戶。

從此,云計算(suan)走(zou)上了業務與基(ji)礎設施完全物(wu)理隔離的路子(zi),底(di)層(ceng)(ceng)的虛擬化技術創新和上層(ceng)(ceng)的服務器種類發展可以并(bing)行展開(kai)。

這催生了EC2實(shi)例(li)的(de)關鍵拐點:從(cong)2006年(nian)(nian)(nian)到(dao)2017年(nian)(nian)(nian),亞馬遜云科(ke)技用11年(nian)(nian)(nian)從(cong)1種EC2實(shi)例(li)做到(dao)70種;而從(cong)2017年(nian)(nian)(nian)到(dao)2023年(nian)(nian)(nian),EC2實(shi)例(li)驟然爆(bao)發(fa)式增長,6年(nian)(nian)(nian)從(cong)70種發(fa)展到(dao)750種,能為各(ge)類負載提供合適(shi)的(de)計算(suan)實(shi)例(li)。

站在Nitro成功的(de)(de)基石上,亞馬遜云科技發展(zhan)出網絡芯(xin)(xin)片(pian)、服務器CPU、AI訓練和(he)(he)推(tui)理(li)芯(xin)(xin)片(pian)三條產品線:Nitro網絡芯(xin)(xin)片(pian)已經發展(zhan)到第(di)五代,持續優化網絡性(xing)(xing)能、存(cun)儲性(xing)(xing)能和(he)(he)安全(quan)加(jia)(jia)固;Graviton已經發布(bu)四代五款(kuan);AI推(tui)理(li)芯(xin)(xin)片(pian)Inferentia和(he)(he)AI訓練芯(xin)(xin)片(pian)Trainium,通過提供更具(ju)性(xing)(xing)價比(bi)的(de)(de)推(tui)理(li)和(he)(he)訓練實例,讓用戶有(you)了(le)GPU之外的(de)(de)AI加(jia)(jia)速選擇。

這使得亞馬遜云科技能夠(gou)保持內部全(quan)棧創新(xin)的(de)(de)靈活(huo)性(xing):從定(ding)制(zhi)的(de)(de)板卡及(ji)服務器開始(shi),到深入(ru)底層(ceng)定(ding)制(zhi)芯(xin)片(pian),再(zai)到橫向(xiang)擴展自(zi)研芯(xin)片(pian)版圖(tu),亞馬遜云科技逐漸將從芯(xin)片(pian)、硬(ying)件到軟件整合協同,在為業務帶來更好(hao)成本效益和可靠(kao)性(xing)的(de)(de)同時,構成獨屬于自(zi)己(ji)的(de)(de)核心競爭力(li)。

自研(yan)芯片(pian)與亞(ya)馬(ma)遜云(yun)(yun)(yun)科(ke)技(ji)自研(yan)的存儲(chu)服務器和高速網(wang)絡(luo)系統聯動,使(shi)得更多芯片(pian)能夠高效互連,從而真正明顯縮短(duan)計算的時間。站在這(zhe)些創(chuang)新基礎上,亞(ya)馬(ma)遜云(yun)(yun)(yun)科(ke)技(ji)能夠支持云(yun)(yun)(yun)計算中運行最具(ju)挑戰性的任務之(zhi)一(yi)——人工智能與機(ji)器學習。

在近(jin)期舉(ju)行(xing)的(de)亞(ya)(ya)馬(ma)(ma)遜云(yun)(yun)科技(ji)紐約峰會上,亞(ya)(ya)馬(ma)(ma)遜云(yun)(yun)科技(ji)宣布(bu)96%的(de)AI/ML獨(du)角獸已將其業務(wu)跑(pao)在亞(ya)(ya)馬(ma)(ma)遜云(yun)(yun)科技(ji)上,2024福布(bu)斯AI 50榜(bang)單中90%的(de)企業選用(yong)亞(ya)(ya)馬(ma)(ma)遜云(yun)(yun)科技(ji)。從2023年至今(jin),亞(ya)(ya)馬(ma)(ma)遜云(yun)(yun)科技(ji)已經正式(shi)發(fa)布(bu)了(le)326項生(sheng)成式(shi)AI功(gong)能(neng),同期機(ji)器學習和生(sheng)成式(shi)AI服務(wu)的(de)正式(shi)可用(yong)數量超過了(le)其他供應商(shang)的(de)兩倍(bei)。

廣泛的(de)(de)用例(li)與深厚的(de)(de)技術積累(lei)總是(shi)唇齒相依。這些數(shu)量驚人的(de)(de)AI用例(li),使(shi)得亞馬遜有足夠的(de)(de)實踐(jian)案(an)例(li)來(lai)為(wei)客(ke)戶提供能取得最佳收益的(de)(de)選(xuan)擇,而廣泛的(de)(de)客(ke)戶反饋又能成為(wei)其芯片設計(ji)最好(hao)的(de)(de)動(dong)能。芯片技術的(de)(de)持(chi)續迭代,將托舉起越(yue)來(lai)越(yue)高性(xing)價比的(de)(de)云服務,推(tui)動(dong)生成式(shi)AI普惠。

結語:沒有哪款芯片,是云計算的唯一解

市場上有大量的芯片(pian)選(xuan)擇(ze),云基礎設施提供商能在如何將所有這些(xie)整合(he)在一起(qi)方面發揮價值,從而更好實現從基礎設施到云服務的各種創(chuang)新。

與獨立(li)芯(xin)(xin)(xin)片(pian)(pian)(pian)企業不同(tong)的是,亞(ya)馬遜云科技(ji)自(zi)研(yan)芯(xin)(xin)(xin)片(pian)(pian)(pian)的目的不在于(yu)參與市(shi)場(chang)競爭,而在于(yu)為其(qi)客戶提供(gong)(gong)一個“萬能(neng)商(shang)店”,既提供(gong)(gong)自(zi)研(yan)芯(xin)(xin)(xin)片(pian)(pian)(pian),又提供(gong)(gong)英特爾(er)CPU、英偉達GPU等市(shi)面主流選擇,由客戶來根據這些芯(xin)(xin)(xin)片(pian)(pian)(pian)實例的配置文件(jian),自(zi)行(xing)選擇最能(neng)滿足(zu)工作負載需(xu)求(qiu)的產品組(zu)合。

Graviton的六年演進(jin),走通了(le)Arm服務器CPU落(luo)地的故事(shi)。Arm為亞馬(ma)遜(xun)云科(ke)技(ji)提供(gong)了(le)靈活定(ding)制CPU的基礎,亞馬(ma)遜(xun)云科(ke)技(ji)則推動了(le)服務器芯(xin)片市(shi)場(chang)格(ge)局的變陣,成為Arm在數(shu)據中心市(shi)場(chang)展(zhan)現成本(ben)和(he)性價比優勢的最好代言。

只要Graviton還有降(jiang)本增效的(de)(de)空間,亞馬遜云科技(ji)就可以繼續降(jiang)價讓利,把(ba)規(gui)模與技(ji)術的(de)(de)紅利回(hui)饋給云客(ke)戶。