芯東西（公眾號：aichip001）
作者 |? 溫淑(shu)
編輯 |? 心(xin)緣
芯東西4月14日(ri)消息，美(mei)國(guo)明星AI芯片獨角(jiao)獸(shou)SambaNova Systems最新(xin)宣布D輪(lun)融(rong)資6.76億(yi)美(mei)元（折(zhe)合44億(yi)人民幣），由(you)軟銀愿景基金2領投，英特爾資本、谷歌(ge)風投、華登國(guo)際(ji)等參投。
至此，該公司估值超過50億(yi)(yi)美元（折合327億(yi)(yi)人民幣），成為全球估值最高(gao)的(de)人工智(zhi)能（AI）創企(qi)之一。
這(zhe)家脫(tuo)胎于斯(si)坦福大學的(de)(de)AI芯片(pian)創企，長(chang)期受到知名(ming)投資者的(de)(de)青(qing)睞，英特爾資本(ben)、谷歌風投、華登國際、貝萊(lai)德、紅鏈資本(ben)等(deng)均曾參與(yu)其多(duo)輪(lun)融資。截至當前(qian)，SambaNova Systems累計融資已達11.32億(yi)美(mei)元。
就在去年12月(yue)，這家創企一舉(ju)推出(chu)其(qi)最重磅的軟硬件集成平臺SambaNova DataScale，擁(yong)有(you)TB級內存容量和(he)數百PetaFlops低延遲互連(lian)計算能力(li)，能處理大量復(fu)雜的數據模型。
美(mei)國阿貢國家實驗室、美(mei)國能源部旗(qi)下(xia)國家核安全管理局（NNSA）、勞倫斯(si)(si)利弗莫(mo)爾(er)國家實驗室（LLNL）、洛斯(si)(si)阿拉莫(mo)斯(si)(si)國家實驗室（LANL）均(jun)已應用DataScale來加速AI計算研(yan)究。
一、甲骨文元老、斯坦福教授聯合創立，華登國際董事長兼任董事會主席
這家初創公司專注于開(kai)發處(chu)理AI工(gong)作負(fu)載的基(ji)礎設施(shi)，總部位于加州帕(pa)洛阿爾托，由(you)甲骨(gu)文和Sun Microsystems公司的元老Rodrigo Liang、斯(si)坦福大學教(jiao)授Kunle Olukotun、Chris Ré于2017年成立，提供從數(shu)據(ju)(ju)中心到邊(bian)緣運行AI和數(shu)據(ju)(ju)密集型應(ying)用的系統。
Liang擔任SambaNova的(de)首席執(zhi)行官(guan)，Olukotun任首席技術專家，華登國(guo)際創(chuang)始人兼董(dong)事長、EDA軟(ruan)件(jian)巨頭Cadence CEO陳立武(wu)同時也是SambaNova董(dong)事長。
▲SambaNova創始(shi)人合影，左-Kunle Olukotun，中-Rodrigo Liang，右-Chris Ré
Olukotun被稱(cheng)為“多核處理器之(zhi)父”，最近獲得了(le)IEEE計算機協會的哈里·H·古德(de)紀念獎(jiang)（Harry H. Goode Memorial Award）。
他是(shi)斯坦福Hydra芯片多處理(li)器（CMP）研究項(xiang)目的負責人，這個項(xiang)目研發了一種芯片設計(ji)，將四個專用處理(li)器和(he)它們的緩存(cun)與共享的二級緩存(cun)相匹(pi)配。
Ré是斯坦福大學信息實驗室計(ji)算機(ji)(ji)科學系的副教授，也(ye)是美(mei)國跨領域(yu)最高獎項之(zhi)一——麥克阿(a)瑟天才獎（MacArthur genius award）的獲(huo)得者(zhe)，他還隸(li)屬于斯坦福統計(ji)機(ji)(ji)器學習小組（Statistical Machine Learning Group）、普適并(bing)行實驗室（Pervasive Parallelism Lab）和斯坦福AI實驗室。
▲SambaNova董事會成員
二、自研可重構數據流單元、400億晶體管、臺積電7nm制程
SambaNova的(de)AI芯片與其客戶很大程度上仍在保密(mi)狀態(tai)，但該公司此前透露，受DARPA資助的(de)高效(xiao)AI處理研究啟發，他們正在開(kai)發“軟件定義(yi)”設備。
通過算法優化和自定義硬件結合(he)，SambaNova聲稱能(neng)顯著提高大多數(shu)AI應(ying)用的性能(neng)和能(neng)力。該公司(si)聯合(he)創(chuang)始(shi)人兼CEO Rodrigo Liang分(fen)享道(dao)，SambaNova并沒有采(cai)用市面上主(zhu)流(liu)的Arm和x86架構，而是自主(zhu)研(yan)發(fa)了芯片架構。
SambaNova研(yan)發的可重(zhong)構數據流單元Cardinal SN10 RDU包(bao)含400億晶體管，采用臺積電(dian)7nm制(zhi)程，由一系列可重(zhong)構節(jie)點組(zu)成，用于數據、存儲和交(jiao)換。
Rodrigo Liang提(ti)到(dao)，為規避芯片短缺可能帶來的(de)不利(li)影響，SambaNova于去年(nian)早些時候進行投資，以(yi)確保獲得臺(tai)積電的(de)產能。
每個Cardinal芯片有6個內存(cun)控制器，支持153GB/s帶寬， 8個芯片以全對全配置連接，最后一點(dian)是(shi)通過允許芯片擴展的交換網絡實現(xian)的。
SambaNova并不是單獨(du)出(chu)售Cardinal，而是將其作為一種安裝(zhuang)在數據中(zhong)心的解決方案(an)。
2020年(nian)12月，SambaNova Systems宣布SambaNova Systems DataScale正式可(ke)用，DataScale基于可(ke)重構(gou)數據流架(jia)構(gou)（RDA），是一個完全(quan)集(ji)成(cheng)的(de)軟(ruan)件和(he)硬件平臺(tai)，可(ke)針對從算(suan)法到芯片的(de)數據流進行(xing)優化(hua)，包含SambaFlow軟(ruan)件棧和(he)8個可(ke)重構(gou)數據流單元Cardinal SN10 RDU。每個RDU都(dou)能(neng)支持(chi)無縫并行(xing)處理大(da)型模型，使(shi)企(qi)業(ye)能(neng)夠比當今最先進的(de)解決方案(an)更快地將新的(de)服(fu)務和(he)產品(pin)推(tui)向市場。
SambaNova提供的基本(ben)單元被稱為DataScale SN10-8R ，配(pei)備了一個(ge)AMD處理器，搭配(pei)8個(ge)Cardinal芯片和12 TB的DDR 4內存，或(huo)每(mei)個(ge)Cardinal芯片1.5TB。
▲SambaNova DataScale SN10-8R運行(xing)工作負(fu)載的效果
三、對標NVIDIA，4個關鍵領域性能破紀錄
SambaNova Systems DataScale專為高效的深度學習推理和訓練而設計，相比最新NVIDIA旗艦A100 GPU，DataScale在四個關鍵領域實現破紀錄的多機架規模性能指標：
（1）性能：DLRM推理的吞(tun)吐量比A100高7倍，延(yan)遲只有(you)A100的1/7；BERT-Large訓練速(su)度(du)比DGX A100系統快1.4倍。
（2）精度(du)(du)：與DGX A100系統相(xiang)比，其高分辨(bian)率計算機視(shi)覺的精度(du)(du)達90.23%；與NVIDIA A100 GPU相(xiang)比，其DLRM推薦引擎的精度(du)(du)達80.46%。
（3）規(gui)模(mo)：以多(duo)機架規(gui)模(mo)打破BERT-Large訓練和精度的(de)記(ji)錄。
（4）易用性：從加載(zai)dock到(dao)數據中(zhong)心，DataScale可以(yi)在45分鐘內快速輕松地集成到(dao)任何運行客戶工作負(fu)載(zai)的(de)現有(you)基礎(chu)設施中(zhong)，數秒內即可在DataScale上以(yi)先進精度下載(zai)數千個(ge)預訓練的(de)Hugging Face Transformer模型，無需更改代碼。
在軟件方面，SambaNova有自己的(de)(de)圖(tu)形(xing)優化器(qi)和編(bian)譯(yi)器(qi)，使用TensorFlow、PyTorch等其他(ta)機器(qi)學習(xi)框(kuang)架(jia)的(de)(de)客戶可以用這些工具為Cardinal重新編(bian)譯(yi)工作負(fu)載。
SambaNova的(de)目(mu)標是支(zhi)持包含超過(guo)1000億(yi)參數的(de)自然語言處理、高分辨率計算機視(shi)覺(jue)和推薦模(mo)型，并提供更大的(de)內存占(zhan)用(yong)和更高的(de)準確性(xing)。
與新的(de)(de)SN10-8R產(chan)品一起，SambaNova將提供(gong)兩種類似云的(de)(de)服(fu)務選項：
第一種是(shi)SambaNova AI云平臺，允(yun)許研(yan)究機構能免費訪問和使用SambaNova的硬件(jian)資源；
第二種是業(ye)界首個數據流即服務（DataFlow as a Service），面向想(xiang)要靈(ling)活(huo)的云服務而(er)無需為(wei)硬件付(fu)費的商業(ye)客(ke)戶所準備。
四、產品已銷售1年多，落地多個美國實驗室
據悉，第一代(dai)Cardinal芯(xin)片(pian)在2019年(nian)春季taped out，首(shou)批芯(xin)片(pian)樣品已用于客戶(hu)服(fu)務器上。
在此之(zhi)前(qian)，SambaNova的產品已經(jing)向客(ke)戶銷售了(le)一(yi)年(nian)多。
美(mei)國(guo)(guo)阿(a)貢國(guo)(guo)家(jia)(jia)實驗(yan)(yan)室(shi)、美(mei)國(guo)(guo)能源部旗下國(guo)(guo)家(jia)(jia)核安全管理局（NNSA）、勞倫斯(si)(si)利弗莫(mo)爾國(guo)(guo)家(jia)(jia)實驗(yan)(yan)室(shi)（LLNL）、洛(luo)斯(si)(si)阿(a)拉(la)莫(mo)斯(si)(si)國(guo)(guo)家(jia)(jia)實驗(yan)(yan)室(shi)（LANL）等多(duo)個研(yan)(yan)究(jiu)機(ji)構，均已部署DataScale平(ping)臺來加(jia)速研(yan)(yan)究(jiu)中(zhong)的AI計(ji)算(suan)。
例如，LLNL正(zheng)將(jiang)DataScale用在其Corona超級計算機中，用于研發新冠肺炎藥物。
LLNL首席技(ji)術官Bronis de Supinski稱，SambaNova的(de)平臺正被用于探索一(yi)種被稱為(wei)認知模擬(ni)的(de)技(ji)術，在(zai)這種技(ji)術中，AI被用來(lai)加速部分(fen)模擬(ni)處理。他聲稱，與運行相同型(xing)號的(de)GPU相比(bi)，這一(yi)性能提高了(le)大約5倍。
五、SambaNova融資背后，AI芯片成各國必爭之地
AI芯片是一種專用(yong)于加速AI應用(yong)的硬件，通過低精(jing)度計算(suan)、存內計算(suan)等技術(shu)，提(ti)高運行大(da)規模AI算(suan)法的性能。根據全球綜合數據資(zi)料庫(ku)Statista的一項研究，專用(yong)集成電路（ASIC）預(yu)計將在(zai)推(tui)理(li)(li)階段AI邊緣計算(suan)處理(li)(li)能力中占(zhan)有越(yue)來越(yue)大(da)的份額，到2025年占(zhan)比(bi)將達70%。
以(yi)SambaNova獲(huo)得的新(xin)融資為例，多國AI芯片創企正(zheng)斬獲(huo)融資，AI芯片市場正(zheng)競(jing)爭激烈。根據美通社數(shu)據，該市場預(yu)計2025年將達到911.8億美元。
▲到2025年，ASIC在推理(li)(li)階段AI邊(bian)緣計(ji)算處理(li)(li)能力的占(zhan)比達(da)70%（來源：Statista）
近期，中國云端AI芯(xin)(xin)片創(chuang)企(qi)(qi)正經歷(li)著新(xin)(xin)一(yi)(yi)輪融資(zi)熱潮。天(tian)數智芯(xin)(xin)、壁仞科(ke)技、燧原科(ke)技、沐曦集成(cheng)等(deng)多(duo)家云端芯(xin)(xin)片創(chuang)企(qi)(qi)宣布獲(huo)得高額新(xin)(xin)融資(zi)，百度(du)AI芯(xin)(xin)片部門(men)最近在融資(zi)后估值(zhi)為20億美(mei)元，中科(ke)寒武紀去年成(cheng)為科(ke)創(chuang)板(ban)上市的第一(yi)(yi)家純AI芯(xin)(xin)片公司。
在(zai)云(yun)端及邊緣AI芯片的(de)研發及落地(di)競賽中(zhong)，其他國家也有一些備受關注(zhu)的(de)明星創(chuang)企(qi)。
例如，以色列AI芯片(pian)創企Hailo正在開發加(jia)快邊(bian)緣AI推理速(su)度(du)的硬件，該公司在2020年3月獲得了6000萬美元(yuan)的風險投(tou)資(zi)。
美國加州創企(qi)Mythic已融資8520萬(wan)美元用于開發(fa)定制的存(cun)內計(ji)算架構。
英國AI芯片獨角(jiao)獸Graphcore致力于研(yan)發加(jia)速AI工作(zuo)負載的大(da)規(gui)模IPU處理器芯片及系(xi)統，該(gai)公司擁有(you)數億美元的資金儲備。
隨著AI芯片出現前所未有且持(chi)續的客戶需求，SambaNova也是受益者之(zhi)一。
因新冠肺炎疫(yi)情蔓延，汽(qi)車和(he)(he)電子(zi)產(chan)品采購(gou)需求的激增加(jia)劇了日(ri)益嚴重的芯片緊缺。美國(guo)總統喬·拜登(deng)近期承(cheng)諾投入1800億美元(yuan)，用于先進計算(suan)(suan)的研發(fa)和(he)(he)專門(men)用于AI和(he)(he)量子(zi)計算(suan)(suan)的半導體(ti)制(zhi)造，這些都已成為(wei)美國(guo)國(guo)家科技戰略的核心。
結語：AI芯片市場開啟落地與生態之戰
2020年以來，多國AI芯片領域均傳出多起融資事件。總體來看，以國內市場為例，據工銀投行數據，2019年國內AI芯片領域投資金額達58.57億元，而2020年僅1-10月的AI芯片總融資額已經超過了2019年全年。企(qi)業層面之外，多個國(guo)家與(yu)地區亦從政策層面出發(fa)，扶(fu)持AI芯片(pian)企(qi)業成長。
在(zai)這背后，AI芯(xin)片創企走過了早期的技術拓荒(huang)期，市(shi)場(chang)或將(jiang)開啟落地與生態構建新戰事。
