
芯東西(公眾號:aichip001)
作者 | ?ZeR0
編輯 | ?漠影
芯東西5月9日報道,據EETimes報道,美國AI芯片獨角獸SambaNova Systems近(jin)期宣布將裁(cai)(cai)員77人,約占(zhan)其500名員工的15%。此次(ci)裁(cai)(cai)員正值該公司偏離最初目標,放棄做AI訓練,轉向完全專注于AI推理。
SambaNova成(cheng)立(li)于2017年(nian),總部位于美國加州,曾希望(wang)為(wei)訓練和推(tui)理打造(zao)基于統一架(jia)構(gou)的(de)(de)AI芯片,2023年(nian)發布了一款專(zhuan)為(wei)大語言模型微調和推(tui)理設計的(de)(de)芯片。其(qi)上一輪融資(zi)是2021年(nian)的(de)(de)D輪融資(zi),使其(qi)融資(zi)總額超過11億美元(yuan)(約(yue)(yue)合人民幣80億元(yuan)),估值超過50億美元(yuan)(約(yue)(yue)合人民幣362億元(yuan))。
SambaNova發言人稱,SambaNova做出了(le)一些調(diao)整(zheng),以(yi)適應當前(qian)的(de)市(shi)場(chang)狀況(kuang)以(yi)及從模型訓練到微調(diao)和推理的(de)轉變。SambaNova已迅速(su)轉向專注于提供云優先(xian)解決方案,幫助企(qi)業和開發者大規模部署開源模型。
在AI訓練(lian)市(shi)場(chang)(chang),英偉達的(de)(de)統治地位(wei)難(nan)以撼動。相對而言,在AI推理(li)市(shi)場(chang)(chang)收獲(huo)客戶可能性(xing)更大(da)(da),隨著大(da)(da)模(mo)(mo)型(xing)服務日益普及(ji),模(mo)(mo)型(xing)推理(li)亟需更高性(xing)價(jia)比的(de)(de)算力基礎設施,這(zhe)使得數(shu)據中(zhong)心(xin)AI推理(li)芯片市(shi)場(chang)(chang)規模(mo)(mo)被(bei)空前看(kan)好。數(shu)據中(zhong)心(xin)領域的(de)(de)AI芯片和(he)硬件創企已轉向通過云端(duan)提(ti)供對開源大(da)(da)語言模(mo)(mo)型(xing)的(de)(de)API訪(fang)問。
SambaNova的(de)目標(biao)客戶群是(shi)企業市(shi)場,他(ta)們正(zheng)嘗試通過(guo)云(yun)服(fu)務部署(shu)基于大語(yu)言模型的(de)應用程序來(lai)進入(ru)推(tui)理領域,去(qu)年9月首(shou)次推(tui)出(chu)SambaNova Cloud。該公(gong)司的(de)軟(ruan)件棧SambaNova Studio面(mian)向企業AI,并隨SambaNova機架式硬(ying)件一(yi)起提(ti)供,用于本地集群和云(yun)端。
近幾(ji)個月來,AI芯片獨角獸SambaNova、Cerebras、Groq,通(tong)過自有硬件提供大語言模(mo)型(xing)token服務。這三家公司(si)最初都專注于為其他云服務提供商(shang)和本地AI計(ji)算銷售硬件系(xi)統,其中SambaNova和Cerebras仍在銷售硬件系(xi)統。
SambaNova平臺搭載其第四代處理器SN40L。SN40L采用數(shu)(shu)據流架構(gou)和三層內(nei)(nei)存架構(gou),提高了AI推理效率。通過整合超(chao)大內(nei)(nei)存,單(dan)個SambaNova系統即(ji)可容納(na)數(shu)(shu)TB的模型。
根據獨立AI基準測(ce)(ce)試公司(si)Artificial Analysis的(de)(de)測(ce)(ce)試結果(guo),SambaNova在DeepSeek R1 671B上平(ping)均每秒(miao)每位用(yong)(yong)戶(hu)可交付(fu)250個token,而使用(yong)(yong)GPU的(de)(de)提供商平(ping)均每秒(miao)每位用(yong)(yong)戶(hu)僅交付(fu)19個token,這意味著(zhu)SambaNova的(de)(de)推理性能平(ping)均比GPU驅動的(de)(de)系統快(kuai)10倍以上。
盡管多家(jia)AI芯片(pian)創企曾披露“超(chao)越英(ying)偉達”的雄心,并(bing)試圖(tu)通過(guo)提供(gong)更具(ju)競(jing)爭力的價格來(lai)打動客(ke)戶,但芯片(pian)市(shi)場(chang)(chang)競(jing)爭非常(chang)殘酷,英(ying)偉達的生態影響力難以撼動,其他在AI芯片(pian)市(shi)場(chang)(chang)上有所作為的供(gong)應商(shang)也(ye)以芯片(pian)大廠居多。
精簡團隊、聚焦主線(xian),是(shi)近期(qi)多家芯片企業(ye)為改善業(ye)績(ji)、增(zeng)強(qiang)競(jing)爭力的主要(yao)手(shou)段。隨(sui)著企業(ye)適應(ying)不(bu)斷變(bian)化的行業(ye)競(jing)爭和經濟狀(zhuang)況,2025年科技行業(ye)的裁員名單預(yu)計會變(bian)得更長。
來源:SambaNova,EETimes