
芯東西(公眾號:aichip001)
作者 |? 程茜
編輯 |? Panken
芯東西5月(yue)23日(ri)報(bao)道,今日(ri),北大系磁性計算芯片創(chuang)企寒序(xu)科(ke)技宣布完成千萬級融資,由彼岸時代(dai)、源合(he)資本投資。
成立于2023年8月的寒序科技(ji),孵化(hua)于國(guo)內磁學(xue)(xue)研(yan)究重要高(gao)地北京大(da)學(xue)(xue)應用磁學(xue)(xue)中(zhong)心,至今已(yi)經(jing)完成三輪(lun)融資。其20余人的團隊中(zhong),大(da)多(duo)為90后且(qie)擁有多(duo)學(xue)(xue)科交叉背景。
這家創企的聯合(he)創始人(ren)是朱欣岳。他告(gao)訴芯東西,寒序科(ke)技希(xi)望成為第(di)一個(ge)在磁(ci)性(xing)計算領域完成商(shang)業閉(bi)環的公(gong)司。
目前,寒序科技針對AI需求,探索磁性存算一體技術,研制適用于大模型推理的超高帶寬磁性邏輯計算芯片,推出SpinPU-E系列芯片;針對高性能計算需求,探索量子啟發的經典計算,研制高比特數全連接磁性概率計算芯片,推出SpinPU-M系列芯片。
在產品層面(mian),他(ta)透(tou)露,寒序科技針對大模型推理的E系(xi)列芯片(pian)(pian)(pian)已經于今年2月進行第一次流(liu)片(pian)(pian)(pian)的投片(pian)(pian)(pian),并(bing)將(jiang)于未來推出面(mian)向(xiang)端側和(he)云側的磁性計(ji)算(suan)芯片(pian)(pian)(pian)產品。
朱欣(xin)岳提到的磁性(xing)計(ji)(ji)算(suan)(suan),可分為(wei)磁概率計(ji)(ji)算(suan)(suan)和磁邏輯計(ji)(ji)算(suan)(suan)。寒(han)序(xu)科(ke)技是目前國(guo)內(nei)唯一(yi)在磁性(xing)計(ji)(ji)算(suan)(suan)這兩個(ge)領域均有布局的公司。
如今(jin),寒序科技依托于(yu)磁性(xing)隧(sui)道(dao)結(jie)(jie)(jie)(MTJ)和隨機(ji)磁性(xing)隧(sui)道(dao)結(jie)(jie)(jie)(sMTJ)等(deng)新型磁電子學器件,結(jie)(jie)(jie)合存(cun)算一體與Chiplet技術,為AI推理算力和專用(yong)算力兩個領域,設計并推出了高(gao)性(xing)能、低成本、開(kai)發(fa)友好的SpinPU磁性(xing)計算芯片。
▲寒序科技(ji)SpinPU-M01概(gai)率計算加速卡(圖源(yuan):寒序科技(ji))
磁概率(lv)計(ji)算(suan)芯片(pian)與其他AI芯片(pian)的(de)主要區別是(shi),不采用(yong)傳統邏輯運算(suan)或不同存儲(chu)計(ji)算(suan)方式,而是(shi)利用(yong)磁性(xing)材料的(de)特性(xing),通過(guo)對(dui)磁狀態的(de)操控和讀取來進(jin)(jin)行概率(lv)計(ji)算(suan)。在存算(suan)一體架(jia)構的(de)磁概率(lv)計(ji)算(suan)芯片(pian)中,磁性(xing)隨機(ji)存儲(chu)器(qi)可直接(jie)在存儲(chu)單元內進(jin)(jin)行部(bu)分計(ji)算(suan)操作(zuo),其優勢(shi)在于能(neng)耗低(di)、并行計(ji)算(suan)能(neng)力強、對(dui)復雜概率(lv)模型(xing)處理效率(lv)高,短板則(ze)為技術(shu)成熟度相對(dui)較低(di)、與現有技術(shu)生(sheng)態融合存在挑戰等。
兼具非易失性、高(gao)速讀寫、超低功耗、集成(cheng)度(du)高(gao)優勢的(de)磁計算芯片,已成(cheng)為全(quan)球半(ban)導(dao)體巨(ju)頭三星、臺積電、SK海力(li)士等押(ya)注的(de)下一代潛力(li)芯片技(ji)術(shu)。
朱欣岳告訴芯東西,寒序科技(ji)已經(jing)基于(yu)(yu)底層工藝、芯片設計、軟件算法進行聯合優(you)化,能夠基于(yu)(yu)國內工藝打造磁(ci)計算芯片,這正是寒序科技(ji)的核心優(you)勢(shi)之一。
在高性能大算力芯(xin)片(pian)需求激增的(de)(de)(de)背景下,這家成(cheng)立(li)不(bu)到兩年的(de)(de)(de)創企(qi)將如何從日趨激烈的(de)(de)(de)AI芯(xin)片(pian)混戰(zhan)中突圍?近日,寒(han)序科技(ji)聯合創始人兼CEO朱欣岳與芯(xin)東西進行(xing)了(le)一(yi)場深入對談,將創業歷(li)程中的(de)(de)(de)思考、選擇以及(ji)對技(ji)術發展與商業落地趨勢(shi)的(de)(de)(de)研判悉數道來。
▲寒序科技聯合創始人兼CEO朱欣岳
一、北大、清華曾拋來橄欖枝,90后組團創業
寒序科技團隊年輕、多(duo)學科交叉(cha)背景的特征(zheng)在朱欣岳(yue)身上(shang)體現(xian)的淋(lin)漓盡致。
北京大(da)學(xue)物理學(xue)院碩士畢(bi)業(ye)的(de)朱欣岳,本科(ke)就讀(du)于南京郵電大(da)學(xue),擁有電子科(ke)學(xue)與技術、計算機(ji)科(ke)學(xue)與技術的(de)雙重專業(ye)背景,曾在加州大(da)學(xue)伯克利分校進(jin)行跨模態人(ren)工智能領域的(de)暑期科(ke)研(yan)。本科(ke)時,他曾帶領團隊(dui)斬獲各大(da)創(chuang)新創(chuang)業(ye)比賽的(de)全國(guo)獎項,開展AI音(yin)樂(le)和量(liang)子精密測量(liang)兩(liang)個(ge)方(fang)向的(de)科(ke)研(yan)工作。
本(ben)科即將畢業(ye)之(zhi)際,北京大(da)學凝聚(ju)態物(wu)理所碩士以及中(zhong)央音樂學院(yuan)和清(qing)華大(da)學計(ji)(ji)(ji)算機系聯合培養博士均向(xiang)他(ta)拋來了橄(gan)欖(lan)枝。由(you)于電(dian)子工程(cheng)與(yu)計(ji)(ji)(ji)算機科學的交叉背景和高中(zhong)物(wu)理競賽的經歷,他(ta)希望(wang)做更加(jia)接近世界本(ben)質的物(wu)理研究,并(bing)面向(xiang)AI的計(ji)(ji)(ji)算需求研發物(wu)理本(ben)征的計(ji)(ji)(ji)算設(she)備(bei)。
最后(hou)他(ta)選(xuan)擇(ze)了凝聚態物(wu)理(li)學(xue)(xue)(xue)科中(zhong)(zhong)的(de)磁(ci)(ci)學(xue)(xue)(xue)與(yu)自旋(xuan)電子學(xue)(xue)(xue),到(dao)國內磁(ci)(ci)學(xue)(xue)(xue)重鎮北(bei)京大學(xue)(xue)(xue)應用(yong)磁(ci)(ci)學(xue)(xue)(xue)中(zhong)(zhong)心攻讀碩士學(xue)(xue)(xue)位,師(shi)從(cong)楊(yang)金波教授、羅昭(zhao)初研究員。他(ta)基于磁(ci)(ci)學(xue)(xue)(xue)與(yu)機器學(xue)(xue)(xue)習的(de)深(shen)層(ceng)關聯,提出磁(ci)(ci)性計(ji)算(suan)(suan)(suan)、物(wu)理(li)本征計(ji)算(suan)(suan)(suan)的(de)新(xin)方(fang)案,研究方(fang)向(xiang)涉(she)及新(xin)型(xing)自旋(xuan)電子學(xue)(xue)(xue)工(gong)藝與(yu)器件,以及神經形態計(ji)算(suan)(suan)(suan)、類腦計(ji)算(suan)(suan)(suan)、概率計(ji)算(suan)(suan)(suan)、近存計(ji)算(suan)(suan)(suan)等新(xin)型(xing)計(ji)算(suan)(suan)(suan)方(fang)案。
在2021年10月尚未入學北大之際,他就已經與(yu)導(dao)師羅昭(zhao)初圍繞磁(ci)學相關(guan)的(de)(de)產業(ye)化方(fang)向展開了(le)討論與(yu)探索。他認為,“磁(ci)性計算”是他們這樣一(yi)支立足北大磁(ci)學高(gao)地,又深耕AI算法和集成(cheng)電路設計的(de)(de)團隊最具有優勢(shi)的(de)(de)方(fang)向。他希望(wang)做第一(yi)個完成(cheng)磁(ci)性計算芯片商業(ye)閉環(huan)的(de)(de)公司(si)。
他深(shen)入理(li)解(jie)磁學(xue)的實驗(yan)物理(li)、器(qi)件和工藝(yi)后,找到了能有效落地(di)的磁性芯(xin)片技(ji)術方案。
目前國內磁(ci)存儲(chu)、磁(ci)傳感等(deng)(deng)(deng)領域的市場競爭已經愈(yu)發激(ji)烈,有北航(hang)等(deng)(deng)(deng)高校(xiao)的多年攻關和全國重點實驗室支撐,還(huan)有希(xi)磁(ci)、燦瑞等(deng)(deng)(deng)大型企(qi)業具有規模和技(ji)術(shu)優勢(shi),致使初創企(qi)業很(hen)難快速占領有利(li)生態位(wei)。
基(ji)于嵌入(ru)式新型磁(ci)器件的(de)計算芯片設計道路則更符合他想(xiang)快(kuai)(kuai)速(su)商業(ye)落地的(de)目標(biao)。他認(ren)為這條賽道目前已經(jing)被臺積(ji)電、三星、SK海力(li)士等半導(dao)體大廠押注并驗(yan)證,同時能基(ji)于國(guo)內(nei)磁(ci)性工業(ye)基(ji)礎快(kuai)(kuai)速(su)在(zai)2~3年內(nei)快(kuai)(kuai)速(su)實現(xian)量產。
▲磁電子(zi)學自(zi)旋電子(zi)學(圖源:寒序(xu)科技)
這(zhe)一創業想法(fa)在2022年底ChatGPT發(fa)布(bu)之(zhi)際被加(jia)速,他們開(kai)始尋找新型磁性計算(suan)芯片在云端算(suan)力上(shang)的機會點。
2023年5月,朱欣岳開始正式籌備磁性計算的創業方案,這也是北大磁學在信息技術領域唯一的產業化項目。三個月后,寒序科技在北京正式成立,寒序科技還與澳門大(da)學(xue)模擬與混合信號超大規模集成(cheng)電路國家重點實(shi)驗室進行(xing)集成電路設(she)計合(he)作。
多學(xue)科(ke)交叉背景(jing),是朱欣岳(yue)尋找人(ren)才的準則之一(yi)。目前寒(han)序科(ke)技共有20余人(ren),大多為90后,他們的學(xue)科(ke)涉(she)及底層物理(li)、材料、器(qi)件(jian)工藝(yi),以(yi)及芯(xin)片設計(ji)、芯(xin)片制造、AI算法等多個領域(yu)。
這個(ge)團(tuan)隊(dui)中,朱欣岳(yue)統管技(ji)術(shu)(shu)、產品(pin)、運營,他的導師羅昭初(chu)負責前(qian)瞻性技(ji)術(shu)(shu)判(pan)斷、戰略布局。團(tuan)隊(dui)的優勢包括,不僅能(neng)超預(yu)期完成(cheng)工(gong)程(cheng)技(ji)術(shu)(shu)研發、產品(pin)規劃,且相比于學術(shu)(shu)出身(shen)的創業(ye)團(tuan)隊(dui)對(dui)于產業(ye)、行業(ye)有(you)著更為前(qian)沿(yan)、超預(yu)期的認知。
寒(han)序科技聯合(he)創始(shi)人兼首席科學(xue)家,北京(jing)大(da)學(xue)物理(li)學(xue)院(yuan)助理(li)教授、研究員、博(bo)士(shi)生導師(shi)羅(luo)昭初是國內磁學(xue)領域的知名學(xue)者。他在清華大(da)學(xue)材料(liao)學(xue)院(yuan)獲得學(xue)士(shi)和博(bo)士(shi)學(xue)位(wei),并分別在頂級期刊(kan)Nature、Science發布(bu)兩篇論文。
二、低能耗、速度快、體積小是天然優勢,兩大產品系列明年推出
寒序科技已經(jing)形(xing)成兩大產品系(xi)(xi)列(lie),分別是(shi)針(zhen)對AI需(xu)求,探索(suo)磁性存算一(yi)體技術,適用于大模型推理(li)的超高帶寬磁性邏(luo)輯計(ji)算芯片(pian)SpinPU-E系(xi)(xi)列(lie)芯片(pian);針(zhen)對特定需(xu)求,探索(suo)量子啟發的經(jing)典(dian)計(ji)算,高比特數全連接磁性概率計(ji)算芯片(pian)SpinPU-M系(xi)(xi)列(lie)芯片(pian)。
▲寒序科(ke)技的(de)產(chan)品矩陣(圖源:寒序科(ke)技)
這家創企的M系列芯片對(dui)標(biao)的是(shi)北美量子(zi)計算創企D-Wave。D-Wave專注用(yong)超(chao)導量子(zi)比(bi)特實現量子(zi)計算機。
在(zai)量子計(ji)算標準(zhun)問(wen)題(ti)Max-Cut求解測試中,SpinPU-M01與D-Wave最(zui)新(xin)一(yi)代產品相比,速度均(jun)在(zai)秒級(ji)以下,求解規模更(geng)優。且寒序科技(ji)的(de)SpinPU-M01芯片(pian)大規模流(liu)片(pian)量產后,性能可對標D-Wave最(zui)新(xin)產品。
▲寒序(xu)科技(ji)與D-Wave產品性能對比(圖源(yuan):寒序(xu)科技(ji))
創業初期,朱(zhu)欣(xin)岳基(ji)于學術(shu)和產業認知的(de)判斷是:云(yun)端(duan)推理需求、端(duan)側模型(xing)部署需求會激(ji)增。2024年(nian)初,寒序科技就已針對Llama、Qwen、DeepSeek等開(kai)源模型(xing)進行了更底層的(de)垂直適配。
磁性計(ji)算芯片具備(bei)的(de)低能耗、速度(du)快(kuai)、體積(ji)小的(de)底層優勢(shi),與這兩大領域相契合。
質量、電荷(he)和(he)自(zi)旋,是標識電子特(te)性最為(wei)重要的(de)三個物(wu)理量,傳統芯片以電子的(de)電荷(he)作(zuo)為(wei)信息載體,信息通過電流傳導。然而,電子的(de)另一個自(zi)由度——自(zi)旋則幾(ji)乎被忽略了。
電子(zi)電荷在(zai)電路中流動會(hui)因電阻(zu)產生熱量(liang),導致能量(liang)損耗。隨著芯片(pian)集成(cheng)度提高,熱損耗問題愈發嚴重(zhong)。而(er)電子(zi)自(zi)旋主要(yao)通過改變自(zi)旋狀態來傳遞和處理信息,不依賴電子(zi)的大(da)量(liang)定(ding)向移動,理論上能耗更(geng)低,且(qie)其翻轉速(su)度極快,理論上可以在(zai)亞納秒甚(shen)至皮秒級(ji)的時間尺度內(nei)完成(cheng),這(zhe)使得基于(yu)電子(zi)自(zi)旋的信息處理有望實現更(geng)高的頻率和更(geng)快的運算速(su)度。
▲電子自旋原理示意圖(tu)(圖(tu)源:寒序科技(ji))
從最底層物(wu)理(li)材(cai)料、芯(xin)(xin)片設計到上層軟件算(suan)法進行聯合優(you)化,磁(ci)計算(suan)芯(xin)(xin)片可以實(shi)現更低功(gong)耗和更快運算(suan)速度(du)。相比(bi)于同樣(yang)擁(yong)有功(gong)耗、速率(lv)優(you)勢的(de)光芯(xin)(xin)片,磁(ci)計算(suan)芯(xin)(xin)片還能做(zuo)到更小的(de)體積(ji)和更高的(de)硅基兼容性。
同時,微納磁器件直接沉積到硅基晶體管之上,在后道工藝的上層金屬做磁性隧道結,單元級互聯實現超高密度,從計算架構上做到超高訪存帶寬,相比于HBM有更大帶寬優勢。而高帶寬就意味著更快的推理速度,寒序科技計劃將首詞(ci)元(yuan)延遲(TTFT,Time to First Token)和詞元生成速度(TPS,Tokens Per Second)做(zuo)到極致,比英(ying)偉達快(kuai)5倍~10倍,做“最快(kuai)”的推(tui)理芯片(pian)。
從(cong)產業角度看,存算分(fen)離(li)架(jia)(jia)構中(zhong)數據需在存儲(chu)端與(yu)計算端之(zhi)間(jian)頻繁傳輸,難以跨越傳統馮·諾依曼架(jia)(jia)構帶來的(de)“存儲(chu)墻”和“功耗墻”。寒序(xu)科技基(ji)于存算一體架(jia)(jia)構的(de)磁(ci)(ci)(ci)性芯片則利用微(wei)納磁(ci)(ci)(ci)性器件與(yu)獨(du)有的(de)磁(ci)(ci)(ci)性芯片設(she)計手(shou)段,推出超(chao)高帶寬、更快推理速度的(de)SpinPU-E系列磁(ci)(ci)(ci)邏輯計算芯片。
在基于先進存儲的高(gao)性(xing)能推(tui)(tui)理(li)芯(xin)片(pian)(pian)架(jia)構上,寒序(xu)科技(ji)對標的是(shi)時下(xia)兩家知名AI芯(xin)片(pian)(pian)創企(qi)Groq和Cerebras。他們(men)采用(yong)的路線均為SRAM存算(suan)一體(ti),但因(yin)其器件體(ti)積較(jiao)大(da)、集成密度低、芯(xin)片(pian)(pian)容量小(xiao),導致用(yong)于云計(ji)算(suan)推(tui)(tui)理(li)時成本(ben)較(jiao)高(gao)。
SRAM存儲單(dan)元(yuan)由六個(ge)晶體管組成,單(dan)位面(mian)積芯片上存儲的(de)(de)容量或者能(neng)承載的(de)(de)模型(xing)權重較為有(you)限,且SRAM的(de)(de)性能(neng)提(ti)升很大程度上要依賴(lai)于工藝節點下降,國(guo)內的(de)(de)工藝現狀意味著這條(tiao)路面(mian)臨諸多瓶(ping)頸。
三、主攻AI藥物研發,參與智算中心建設、大模型適配
在商業化落地層面,寒序科技的M系列概率計算芯片瞄準了AI制藥、航天、水利電力領域,選擇標準是:哪個賽道能快速驗證產品性能,就在哪個賽道做標桿客戶。E系(xi)列的(de)邏輯(ji)計算(suan)芯(xin)片(pian)則直接面向智算(suan)中(zhong)心、大(da)模型企(qi)業與互聯(lian)網(wang)大(da)廠的(de)推理需求,展(zhan)(zhan)開產品(pin)適配與市場拓展(zhan)(zhan)。
憑(ping)借(jie)與(yu)學(xue)術界緊密的技術聯(lian)結優(you)勢,以及(ji)具備與(yu)行(xing)業(ye)頭部企業(ye)協同開展工業(ye)級測試的能力(li),AI制藥領域(yu)成為(wei)寒序科技的第一個性能驗證(zheng)場景。
SpinPU-E系列磁邏輯計(ji)算(suan)芯片為Transformer架構(gou)定制(zhi)設計(ji),可(ke)兼(jian)容國內28nm硅基工藝,采(cai)用存算(suan)一(yi)體的磁計(ji)算(suan)范式,提高帶寬(kuan)并降(jiang)低成本。應用方面適(shi)用于主流(liu)AI模型的端(duan)側部(bu)署,直接面向AI大模型及(ji)邊緣推理(li)市場,應用場景包(bao)括(kuo)智能硬件、具身(shen)智能、自動(dong)駕駛、AI PC等。
SpinPU-M01實(shi)現(xian)了1024比特數、1023連(lian)接度、16位寬精度,朱欣岳(yue)透露(lu),下(xia)一代芯片他們保守(shou)會做(zuo)到4096比特數、4095連(lian)接度、16~32位寬精度。
▲寒序(xu)科技SpinPU-M01性能(neng)(圖源:寒序(xu)科技)
對于(yu)未(wei)來的產(chan)品迭代規(gui)劃,其會在可控成本下進行工程(cheng)實(shi)現,追求計算速度(du)的極限(xian),同時讓M系列做到軟件側(ce)盡(jin)量開源(yuan)、硬件側(ce)盡(jin)量穩(wen)定,目(mu)前其第一代產(chan)品仍在優化過程(cheng)中。
在芯片研發之外,寒(han)(han)序科技(ji)還會參與智算中(zhong)心建設、異構計(ji)算適(shi)配、前(qian)沿大(da)模型(xing)適(shi)配等。朱欣岳提到(dao),這是因為他(ta)們提供的(de)加速卡和服務器的(de)標準、具體產(chan)品(pin)形態和交(jiao)易結構會隨著(zhu)市(shi)場變化而變化,因此寒(han)(han)序科技(ji)會將后期產(chan)品(pin)化以(yi)(yi)及(ji)算法適(shi)配的(de)工作前(qian)置,注重產(chan)業生態站位(wei)以(yi)(yi)及(ji)與下游客戶的(de)綁(bang)定(ding),以(yi)(yi)便動態調整終端產(chan)品(pin)形態和交(jiao)付方式(shi)。
結語:跳出主流硅基芯片,磁性芯片在推理、邊緣側找到落地場景
當下,大模型的發展對(dui)如何讓算力(li)更好用(yong)、易用(yong)提(ti)出(chu)更高要求,寒(han)序(xu)科技在傳統(tong)硅基(ji)芯片之外(wai),選擇了一條(tiao)以CMOS兼容的新型磁性芯片路徑(jing),并依(yi)托其(qi)低能耗、速度快(kuai)、體積(ji)小的天然優勢,在AI推理、邊緣(yuan)端模型部署(shu)中找到(dao)了有(you)效落地場景。
成立不到兩年,有著(zhu)多學(xue)科交叉背景的(de)(de)寒序科技團(tuan)隊,將北(bei)京大學(xue)這一國內磁學(xue)研究(jiu)高地(di)在(zai)學(xue)術研究(jiu)上(shang)的(de)(de)進(jin)展,與(yu)國內工藝基礎相(xiang)協(xie)同(tong),在(zai)產品(pin)層面(mian)已經初見(jian)成效。寒序科技SpinPU-M系列芯(xin)片(pian)正在(zai)與(yu)客戶進(jin)行聯合調試,其面(mian)向云側和邊緣(yuan)側的(de)(de)芯(xin)片(pian)都將于(yu)未來推出(chu)。
未來,這種依(yi)托于磁性器(qi)件特(te)性的磁概率計算和磁邏輯計算芯片(pian)未來如何(he)在實際應用中有效落地并發揮價值(zhi),還(huan)需(xu)拭目以(yi)待。