
芯東西(公眾號:aichip001)
編譯 |? 尹明順
編輯 |? 漠影
芯(xin)東西9月13日消息(xi),據The Information報道(dao),軟件(jian)巨頭甲(jia)骨(gu)文公司(si)(Oracle Cloud Infrastructure)高級副總裁(cai)?Karan?Batta稱,盡管英偉達在銷售人工智能(neng)數據中心芯(xin)片方面(mian)蓬勃發展,但一些開發AI的(de)(de)客戶正在轉(zhuan)向規模較(jiao)小(xiao)的(de)(de)競爭對手(shou)AMD。
甲骨(gu)文公司認同英偉達在芯片市(shi)場上的優勢(shi)地(di)位,但同時認為需(xu)要加(jia)入(ru)一些競爭(zheng)來可(ke)控硬件開發成(cheng)本。
英偉達(da)產品存在(zai)提升價格可能,許多客戶(hu)為此陷(xian)入擔憂。
甲骨(gu)文(wen)高管稱(cheng),AMD硬件能夠有效幫助公(gong)司防范因英偉達芯片供應短(duan)缺(que)出現的(de)危機,而(er)這(zhe)類(lei)短(duan)缺(que)問題(ti),在(zai)去年的(de)絕大多數時間都(dou)存在(zai)過。
除了甲骨(gu)文(wen)公司(si)外,微(wei)軟等云服務商也有減少(shao)對AI計算巨頭英偉達依賴的(de)意向。
一、英偉達斷供成常態,客戶紛紛轉向AMD
Karan?Batta說:“我們發現,芯片推理的達成并不一定非要綁定在某個特定供應商。”Karan?Batta認為,隨著英偉達在服務器芯片市場上一騎絕塵,需要競爭來降低硬件成本。
無論是自主開發AI應用這一層面,還是向軟件供應商采購此類應用層面,增強競爭都將使企業能夠控制AI推理成本。
AMD在2023年推出的最新旗艦服務器芯片可能不如英偉達在2022年推出的最新旗艦產品H100強大,但甲骨文和微軟的高管們認為,他們別無選擇,只能支持AMD以促進競爭。Karan?Batta補充(chong)道:“AMD正在投入大量精力,并且在提(ti)升芯片性能方面做得很好。”
Karan?Batta認為,甲骨文公司使用AMD硬件還有助于其防范未來英偉達潛在的供應短缺問題。此類短缺在去年大部分時間都發生過。
Karan?Batta拒絕透露具體(ti)細節(jie)或客戶名稱,但他的評論表(biao)明甲骨(gu)文公司(si)希望減少對AI計算(suan)巨頭英偉達的依賴,這一做(zuo)法與微軟等其他云服務提供(gong)商類似。
此外,用于推理的英偉達芯片租賃成本一直在下降,但其下一代旗艦AI芯片可能會改變這一現狀。其他英偉達客戶也私下表達了類似的擔憂,他們擔心如果AMD或其他公司不搶占英偉達的市場份額,英偉達產品將繼續保持高昂的價格。
雖然到目(mu)前為止,這(zhe)種情況還沒有真正發生。
AMD稱,與去年同期(qi)相(xiang)比,其(qi)數據(ju)中心收入在(zai)6月當(dang)季增長(chang)了(le)115%,達(da)到(dao)28了(le)億(yi)美元(yuan),而英偉達(da)的數據(ju)中心收入在(zai)7月當(dang)季增長(chang)了(le)154%,達(da)到(dao)了(le)263億(yi)美元(yuan)。
▲英偉達與AMD數據中心收入對比圖(tu)(圖(tu)源:The Information)
二、甲骨文正與OpenAI、xAI開展合作,著力提升芯片集群規模
與(yu)此同時,甲骨文和其他(ta)(ta)云服務提供商正在蓬勃發展,他(ta)(ta)們向OpenAI和埃隆·馬斯克的xAI等客(ke)戶(hu)出(chu)租了更(geng)多英偉(wei)達服務器(qi)。
在美國的服務器租賃市場中,甲骨文公司排在亞馬遜的Amazon云服務、微軟Azure云科技和谷歌云之后,位列第四。甲(jia)骨(gu)文公司從這項業(ye)務(wu)中(zhong)獲得(de)了24億(yi)美元的收入,同比增長45%。
甲(jia)骨文公(gong)司(si)進入云計算(suan)領域相(xiang)對(dui)較晚(wan),但(dan)有些(xie)幸運(yun),因為去年正值AI初創公(gong)司(si)爭相(xiang)搶購云服務器的(de)熱(re)潮。甲(jia)骨文公(gong)司(si)沒有開發(fa)類似OpenAI GPT-4的(de)大型語言模型,故而對(dui)于AI開發(fa)客戶不構成競爭威脅,這使它在市場顯現(xian)出(chu)了優勢。
現在(zai),甲骨(gu)文公(gong)司(si)正在(zai)尋求(qiu)在(zai)AI模型訓練市場占(zhan)據更大份(fen)額,聯合(he)創始人拉里·埃里森(Larry Ellison)在(zai)周一表(biao)示,甲骨(gu)文公(gong)司(si)正在(zai)設(she)計一座(zuo)容(rong)量超過10億瓦(wa)特的數據中心,它足以為像舊(jiu)金山這(zhe)樣的城市供電。
Karan?Batta拒絕透露(lu)該數據中心的細節也(ye)未公布何時投入運營。他稱,為了支持其擴張,甲(jia)骨文公司將提升(sheng)串(chuan)聯AI芯(xin)片集(ji)群的能力,使它們能夠像單臺計算機(ji)一樣工作,這是訓(xun)練新大型(xing)語言模型(xing)的理想設置。
這些改進包括改變甲骨文(wen)公司冷(leng)卻發(fa)熱芯片(pian)的(de)(de)方式(shi),以(yi)及為電纜建(jian)造隧(sui)道(dao),以(yi)便將不同(tong)(tong)建(jian)筑中(zhong)的(de)(de)芯片(pian)連接起來,使它們不必全部(bu)位于同(tong)(tong)一地點。
他說,甲骨文計劃將芯(xin)片(pian)集(ji)群規(gui)模擴大(da)至(zhi)少一倍,從(cong)6.4萬個GPU增加到12.8萬個以上。但他沒有說明具體時間。
此外, Karan?Batta認為,即使初創公司使用其他云(yun)服務來開發其核心(xin)模型(xing),甲骨文公司仍然(ran)可以從(cong)人(ren)工智(zhi)能培訓(xun)的需求中(zhong)受益。
例如,這些公司還需要(yao)其他用途的(de)硬件(jian),如微(wei)調,開發人員會在其中對特(te)定任(ren)務的(de)模(mo)型進行優化。
Karan?Batta稱,一些AI公(gong)司(si)正在購買(mai)訪問舊(jiu)芯片的(de)權利來處理這些工作負(fu)載。
據The Information人工智能數據中心數據庫顯示,甲骨文公司可能與OpenAI和微軟達成了一項協議,將在明年使用美國德克薩斯州的一座設施,但?Karan?Batta拒絕就(jiu)具體公司(si)對此事發表(biao)評論。
結語:越挫越勇?自稱AI計算能力名列前茅
最近,甲(jia)骨文公司受挫,因馬斯(si)克決定在美(mei)國孟菲斯(si)建造自己的GPU集(ji)群,而不是(shi)從甲骨文公(gong)司租用,因為該公(gong)司無法快(kuai)速建立數(shu)據中心。
Karan?Batta認(ren)為(wei),現(xian)在判斷(duan)xAI是否能在甲骨文(wen)之前更快地完成由10萬(wan)個(ge)H100芯片組成的Colossus集群,還為(wei)時過早。
“我沒有一(yi)個(ge)比(bi)較的(de)基(ji)準。我們比(bi)xAI快得多(duo)嗎?還是(shi)慢得多(duo)?……我認為,與其他(ta)云服務(wu)提供商比(bi)較而言(yan),我們會覺(jue)得自己(ji)在(zai)AI計算能力方面是(shi)最快的(de)之一(yi)。”
來源:The Information