芯東西(公眾號:aichip001)
作者 | ?ZeR0
編輯 | ?漠影

芯東西3月18日報道(dao),國產CPU的路不(bu)好走,但(dan)走得人(ren)多了(le)(le),希望就(jiu)大了(le)(le)起來(lai)。當前三大指令集架構中,唯一不(bu)受商業公司牽制的RISC-V,正醞釀出(chu)越(yue)來(lai)越(yue)豐富的技術創新與商業成果。

這在上周的玄鐵RISC-V生態大會上得到集中展示,來自半導體IP、芯片、軟件等不同產業環節的代表性玩家們不僅踴躍曬出產品和工具進展,而且興致勃勃地分享RISC-V有望帶給中國芯片產業的新趨勢、新賽點、新機會

14年前,全新開源指令集RISC-V在美國加州大學伯克利分校誕生。今天,RISC-V以遠超“前輩”的速度發展。據阿里巴巴達摩院院長張建鋒分享,從0到(dao)出貨100億顆芯片,RISC-V僅用10年(nian),就走完了Arm 30年(nian)的歷程

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

會(hui)上,倪光(guang)南(nan)院士和硅谷芯片領域傳(chuan)奇人物Jim Keller發表致辭,采用國產(chan)RISC-V處理器(qi)的筆記(ji)本電腦(nao)“如意BOOK”首(shou)度亮相,達摩院預告首(shou)款(kuan)基于RISC-V的安卓(zhuo)終端設備將(jiang)在今(jin)年下半年大規模商業化(hua)落地,算能科(ke)技更是(shi)做到將(jiang)大語言(yan)模型跑在基于RISC-V的加速器(qi)上。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

從全天會議可以總結出這些趨勢:1、國內CPU市場有錢途,并對RISC-V逐漸敞開懷抱;2、自主CPU正迎頭追趕,已取得技術和生態上的重要進展,接下來想要抓住AI和高性能芯片的市場機會;3、國產RISC-V雖然聲量還不大,但生態鏈各環節都有企業在踏實且堅定地做事情

一、RISC-V芯片賽道融資密集,逐漸走向高性能和大算力

三大指令集架構中,x86與(yu)Windows聯盟在PC領(ling)(ling)域獨(du)孤(gu)求敗,Arm與(yu)安卓在移動終端領(ling)(ling)域叱咤風云,RISC-V的(de)市占率跟(gen)兩(liang)位(wei)前輩沒(mei)法比,但就憑背負(fu)著自主可控(kong)的(de)希望(wang),不僅國內生態發展(zhan)精氣神旺盛,戰略(lve)地位(wei)更是遙(yao)遙(yao)領(ling)(ling)先。

投資機構對RISC-V創企已給予許多積極反饋。從2023年1月到2024年1月,至少有16家研發RISC-V芯片的國內創企獲得新一輪融資,其中奕斯偉計算、進迭時空、希姆計算、藍芯算力、知合計算的最新單筆融資均達到億級

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

▲國內(nei)RISC-V芯片初創公司(si)新融(rong)資事件(2023年1月-2024年1月)

其中,國內不少RISC-V芯片創企的核心團隊都與大廠關系匪淺。例如,知合計算CEO孟建熠是前平頭哥副總裁,進迭時空聯合創始人陳志堅是玄鐵處理器主要研發負責人,藍芯算力創始人兼CEO盧山是前字節跳動服務器芯片負責人,之行無界創始人兼CEO楚含進是原AMD XR與計算平臺高級總監,晶遠芯創始人劉鋼是前西部數據中國區業務總經理,尚未公布融資動向的旭日辰芯由前英特(te)爾中(zhong)國區高(gao)管創辦。

目前中(zhong)國(guo)有(you)(you)數百家公司在(zai)關注或(huo)以RISC-V指令集(ji)進行開發。RISC-V International的25個(ge)高級會(hui)員中(zhong)有(you)(you)阿里、華為、騰訊等12家中(zhong)國(guo)企業(ye),去年(nian)達摩(mo)院領(ling)導了13個(ge)技術小組(zu)的標(biao)準(zhun)制(zhi)定。

張建鋒在演講中分享了一些數據:RISC-V正呈高速發展,在可穿戴MCU、計算筆記本、通信5G、消費級AI加速、工業智能電網、自動駕駛AI駕駛等主流應用中的占比接近或達到30%;未來幾年在主流市場年復合增長率預計超過40%

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

倪光南院士預測,未來世界三大主流CPU生態將是:1)服務(wu)器/桌面(mian)的(de)Wintel聯(lian)(lian)盟(meng);2)移動終端的(de)安卓(zhuo)Arm生態(tai);3)智能物聯(lian)(lian)IoT的(de)RV++(1套(tao)RISC-V指令集架構(gou)+1套(tao)基礎軟件+N種(zhong)定制化芯片(pian))。其中,AIoT生態(tai)會出現數萬種(zhong)定制化需求,而(er)RISC-V最有優勢。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

他認為RISC-V自定義擴展指令是實現特定領域架構(DSA)的有效途徑,隨著RISC-V擴展指令(ling)集功能的(de)充分發揮,芯(xin)片定制化或”芯(xin)片定義”將會被(bei)人們所普遍接受。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

當前RISC-V發展呈兩大趨勢:一是邁向AI計算和高(gao)性能領域(yu),二是應用和生態進一步壯大

一方面,AI爆發帶來極大算力需求,RISC-V可增加其功能擴展性。RISC-V的模(mo)塊(kuai)化(hua)和擴展(zhan)性(xing),允許定制(zhi)指令集來優(you)化(hua)特(te)定類(lei)型計算(suan)操作,可根(gen)據AI工作負載特(te)點提供定制(zhi)化(hua)的加速器。RISC-V逐步(bu)走入高性(xing)能(neng)和AI計算(suan)的深水區。

張建鋒(feng)說,2023年(nian),RISC-V架構在更多實際應用(yong)場景中得以落地生根(gen),從物聯網設備、邊緣計算逐漸邁向AI計算、高性(xing)(xing)(xing)能計算等(deng)領域,產生代表性(xing)(xing)(xing)的(de)應用(yong)案例,并以其開放性(xing)(xing)(xing)、靈活性(xing)(xing)(xing)和高效能贏得了市場和更多用(yong)戶的(de)認(ren)可。

另一方面,全球70多個國家和地區參與RISC-V開放規范,產業更加壯大。RISC-V軟件(jian)生態(tai)逐漸成(cheng)熟,在更多應用場(chang)景(jing)落地(di)發芽。RISC-V應用規模和適配程(cheng)度(du)也(ye)不斷提高。

孟建熠感受到相比去年(nian)拿出來的(de)更(geng)多(duo)是(shi)demo,今年(nian)拿出來的(de)更(geng)多(duo)是(shi)產(chan)業(ye)化(hua)的(de)東西。

“隨著新(xin)型(xing)算力需(xu)求激增,RISC-V正(zheng)迎來蝶變,即將(jiang)進(jin)入應用爆(bao)發期。”張建鋒總結說。

二、AI計算是重頭戲:RISC-V端側跑大模型能效更高

大會演講及會中交流傳遞出一個信號:AI計算被公認是RISC-V發展的焦點方向

2023年5月(yue),Meta基(ji)于(yu)RISC-V架構推(tui)出首代AI推(tui)理加速(su)器;10月(yue),高通宣布將與谷歌合作推(tui)出基(ji)于(yu)RISC-V架構、支持Wear OS系統的智能穿戴芯片,并將在(zai)全(quan)球市場進行商用推(tui)廣。

在玄鐵RISC-V生態大會上,硅谷芯片領域傳奇人物、加拿(na)大AI芯片創企Tenstorrent首(shou)席(xi)執(zhi)行(xing)官Jim Keller通過視(shi)頻連線的方式肯定RISC-V潛力無限,認為它有望打造出下一代AI引(yin)擎。

張建鋒宣布,達摩院面向AI加速、低功耗、安全等全面升級迭代玄鐵產品線。面向端側AI加速計算的玄鐵C907首次實現矩陣運算擴展,下一代高性能旗艦處理器C930也將于今年推出。玄鐵CPU家族朝著低功耗、AI加速、安全、車規四條主線演進。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

算能直接放大招——基于RISC-V擴展指令打造大模型加速器SG2380,內置128GB DRAM和200GB/s內存帶寬,在移動終端支持大帶寬、大容量、大算力、語言類、視覺類大模型,并號稱實現“移動終端最強大模型性能”。算能高級副總裁高鵬認為采用RISC-V和存算一體等先進技術重構大模型算力成為熱點

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

算(suan)能的(de)RISC-V產品涵蓋通用算(suan)力(li)(li)與(yu)推理(li)算(suan)力(li)(li),實(shi)現了首個商業云部署(shu)的(de)RISC-V集群落地。高鵬(peng)談道,RISC-V僅用8年(nian)就進入了服務(wu)器處(chu)理(li)器領域(yu),而(er)x86用了18年(nian)、Arm用了35年(nian)。

面向電(dian)網建設,國網智芯基于(yu)玄鐵處理器研(yan)發了高能(neng)效工業(ye)級AI芯片,用于(yu)變(bian)電(dian)智能(neng)巡(xun)視(shi)、源網荷(he)儲協同(tong)調度等場景;在ICT領域,中國電(dian)信研(yan)究院推(tui)動高性能(neng)RISC-V在電(dian)信端云一體場景下的產(chan)品(pin)化(hua),并(bing)與玄鐵團隊合作研(yan)發了基于(yu)RISC-V的邊緣AI計算盒子TeleBox。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

在接受媒體采訪時,達摩院玄鐵RISC-V團隊資深技術專家李春強談道,得益于開源開放、可定制、可擴展等特點,大家認為RISC-V是為AI而生的架構,因此(ci)玄鐵團隊從處理器IP的角(jiao)度做了很多工(gong)作,來進一步提高AI性(xing)能。

其工(gong)作包括在(zai)(zai)指令集(ji)擴(kuo)展維度上做更多的(de)定(ding)義和(he)推動制定(ding)標準,通(tong)過擴(kuo)展定(ding)義的(de)方(fang)式(shi)實現CPU和(he)AI算力更高效地融合(he)、持續探索(suo)架構創新,以及加大與合(he)作伙伴在(zai)(zai)AI芯(xin)片領域的(de)合(he)作。

在他看來,剛興起的大模型對RISC-V來說是一個非常好的機會,因此達摩院在RISC-V指令集維度上后續會做多核并行計算、多核通信、存儲帶寬、大模型算法部署等方面的嘗試與布局。結(jie)合RISC-V的可定制(zhi)可擴展,CPU+AI架構將衍(yan)生出更多的創新可能性

“(對于)RISC-V現在來說,AI肯定是最重要的方向。”孟建熠談道,RISC-V在端側大模型推理方面有能效比高的架構優勢,今年會有一些客戶發布基于玄鐵處理器的大模型芯片

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

他談到RISC-V要做好兩件事:一是AI,因為AI原生時代有擴展性;二是高性能計算,當前缺少真正大規模量產的高性能RISC-V芯片。知合(he)計算與(yu)達(da)摩院更(geng)多在高性能上合(he)作,希(xi)望(wang)RISC-V架構創新能夠普及(ji)到高性能、高能效、AI算力(li)。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

CPU是做(zuo)SSD的(de)強(qiang)有(you)力后(hou)盾。由于內存(cun)很貴,業界(jie)希望將一(yi)些參(can)數(shu)往更下一(yi)級存(cun)儲(chu)空間放,憶芯科(ke)(ke)技一(yi)直在(zai)關注這(zhe)個(ge)方向。據憶芯科(ke)(ke)技合(he)伙人朱旭(xu)濤(tao)分享(xiang),今(jin)年春節后(hou)蘋果出(chu)(chu)了篇(pian)在(zai)AI PC上(shang)應用該技術的(de)論文,涉及將大模型應用在(zai)SSD上(shang),這(zhe)對CPU也會(hui)提出(chu)(chu)更多的(de)要求(qiu)。

三、RISC-V商業應用生態大爆發:已跑通釘釘、福昕PDF、搜狗輸入法

在玄鐵RISC-V生態(tai)大會(hui)會(hui)場(chang),國產(chan)RISC-V展品琳瑯(lang)滿(man)目(mu),類別包括(kuo)5G小基帶芯(xin)片(pian)(pian)、SSD芯(xin)片(pian)(pian)、AIoT芯(xin)片(pian)(pian)、服務器(qi)芯(xin)片(pian)(pian)等(deng)。

除了AI計算外,其中最受關注的當屬PC應用。

會上,中國科學院軟件研究所展示了基于RISC-V的開源筆記本電腦“如意BOOK”。這臺電腦綜合續航達(da)12小(xiao)時,集成了(le)支持語音對(dui)話(hua)與文字交互的第三方(fang)大模型AI助(zhu)手。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

如意BOOK搭載玄鐵C910處理器、openEuler操作系統,可流暢運行釘釘、Libre Office等大型辦公軟件,首(shou)次打(da)通了從底層(ceng)芯(xin)片到操(cao)作系統(tong)到商用軟件的RISC-V全鏈路。

2023年,釘釘成為第一個在RISC-V上跑通的商用IM產品。此外,基于玄鐵處理器,RISC-V首次跑通了福昕PDF搜狗輸入法等商業軟件。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

中國科學(xue)院軟(ruan)(ruan)件研(yan)究所(suo)RISC-V負(fu)責人郭松柳期待有更多開發者基于如意BOOK進行(xing)原生(sheng)RISC-V開發,共同豐富(fu)RISC-V的軟(ruan)(ruan)件應用生(sheng)態。

在其(qi)他行業場景,RISC-V芯片也走(zou)向落地。

在(zai)汽車領域,已有(you)頭部客戶使用玄鐵,達摩院會對可靠性、包括高實(shi)時的處理器做(zuo)更(geng)多布局。

在通信領域,比科奇將RISC-V應(ying)用在5G基(ji)帶芯(xin)片(pian)。其第(di)一顆高性能、低功耗5G小基(ji)站物理層SoC芯(xin)片(pian)PC802已經規模化量產。

比(bi)科奇(qi)芯片(pian)研發副總裁沈(shen)鉦說(shuo),作為整(zheng)體(ti)解決(jue)方案提供商,比(bi)科奇(qi)希望(wang)把CPU的(de)執(zhi)行效率發揮到最高(gao),RISC-V對集成而(er)言(yan)是透明的(de),同(tong)時(shi)能(neng)效比(bi)高(gao),峰值(zhi)情(qing)況下(xia)能(neng)實現功耗不(bu)到10W。

他很看好RISC-V的(de)生態發展(zhan)。據(ju)(ju)他分享,當調度合理,很多(duo)RISC-V的(de)小(xiao)核(he)可能比(bi)一個單一大核(he)效率更高(gao),因此比(bi)科奇PC802里面有(you)兩個16核(he)處理器,其中16核(he)做(zuo)高(gao)層次協(xie)議棧消息解(jie)析(xi),另外16核(he)做(zuo)空(kong)口數據(ju)(ju)包處理,都(dou)是(shi)有(you)很多(duo)個小(xiao)任務、有(you)很強的(de)并(bing)行(xing)處理要求。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

亞博智能推動RISC-V首(shou)次(ci)進入(ru)ROS機器(qi)(qi)人領域(yu),基于玄鐵(tie)處理器(qi)(qi)的Mlik-V Meles開發板研發SLAM建圖與避障導航小車。

潤開鴻(hong)聯合達(da)摩(mo)院在玄(xuan)鐵處(chu)理(li)器(qi)上更好地(di)發揮(hui)了(le)OpenHarmony分(fen)布式技術應(ying)用(yong)優勢,在金(jin)融、交通、醫療(liao)、教育等(deng)行業實現了(le)商(shang)業化落地(di)。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

四、軟件是硬茬:算能要干“大炮仗”,首款RISC-V安卓設備今年登場

優化(hua)軟(ruan)件是推動RISC-V生(sheng)態(tai)發展的關鍵。

算能宣布了“一個改變世界的大炮仗”——甲辰計劃,目標在2036丙辰年之前,基于RISC-V實現從數據中心到桌面辦公、從移動穿戴到智能物聯網全信息產業覆蓋的開放標準體系及開源系統軟件棧,使RISC-V軟硬件的生態成熟度達到或超過主流架構的生態成熟度;在所有基礎關鍵行業領域完成面向RISC-V的適配與優化;形成超過1萬人的頂尖人才網絡。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

高鵬認為,以RISC-V為目標指令,基于并行編程語言、編譯優化等技術,有望實現支持千/萬億參數大模型的新型開源編譯軟件框架,做到對CUDA的替代

沈鉦相信不止是在基帶處理,其他領域做核選擇時,很多都會選擇RISC-V。而選(xuan)擇RISC-V內(nei)核(he)的重要推手是很多底層(ceng)工作,涉及芯片平臺、軟件、操作系統、開發接口(kou)等等。

朱旭濤稱SSD芯片對CPU選型、實時性提升、軟件開發體驗非常關注,包括在使(shi)用效率上(shang)與業務有實(shi)際的(de)貼合(he)度、指令(ling)編(bian)譯和編(bian)譯系統對(dui)客戶(hu)的(de)友(you)好度、CPU和外部的(de)一致性(xing)管(guan)理等,希(xi)望CPU朝更精簡指令(ling)集的(de)方向(xiang)做。

郭松柳提到RISC-V軟件生態發展的問題:1)面向通用高性能計算場景的基礎軟件供給尚不完善;2)應用軟件不豐富,復雜軟件的遷移和優化需多方努力;3)應從基礎軟件層面解決指令可擴展帶來的兼容性問題;4)計算需求加速變化——多樣性、智能化,有待統一的前瞻布局。

他還分享了基礎軟件開源共建的方向:1)充分利用AI支持,加速軟件移植和優化的進程;2)硬件與基礎軟件、應用軟件聯合起來,進行深度垂直優化,加強開源共享;3)操作系統、編譯器提供指令多樣性支持,一次編程,處處運行,編程環境和工具包要更強大、更通用;4)AI推理本地化、算力支持模塊化、生態拓展兼容化。

孟建熠也談道,RISC-V之所以可以走出來,得益于3點:1)體系結構發展歷程中積累了大量的非優化的“遺存”,而RISC-V軟硬件協同設計將帶來10倍以上的性能收益;2)計算架構演進需要共性技術底座;3)生態本質是降低全行業使用成本,迫切需要軟件生態統一。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

在搭建平臺和補齊全棧(zhan)能力上,阿里是(shi)國內涉(she)足最早、投(tou)入最多(duo)的(de)(de)技術(shu)團隊之一,不斷(duan)推(tui)進(jin)從(cong)處理器IP到芯片平臺、編譯器、工(gong)具(ju)鏈等技術(shu)的(de)(de)軟硬件深(shen)度融合,提(ti)供(gong)云(yun)上RISC-V軟硬件全棧(zhan)技術(shu)綜合測(ce)試和評(ping)估服務,還設立(li)RISC-V學院。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

去年(nian)8月發布的(de)玄鐵(tie)多媒體AI軟硬件融合平臺(tai),形成(cheng)了面向業務的(de)流水線設計,方(fang)便用戶在(zai)流水線的(de)不同(tong)步驟(zou)上(shang)進(jin)行AI增(zeng)強優化(hua),內置多模(mo)態大模(mo)型、目標(biao)識別、圖(tu)像(xiang)分割、視頻(pin)超分等(deng)算法。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

在(zai)軟硬適配層面,玄鐵(tie)完成與安卓(zhuo)、Linux、OpenHarmony、Debian、Fedora、Gentoo、Ubuntu、龍(long)蜥、統信(xin)、openKylin、openEuler、OpenAnolis、創維酷開系(xi)統、RTT等國(guo)內外(wai)主流操作系(xi)統的全適配,還推動谷(gu)歌、紅帽對RISC-V實現主線原生支持。谷(gu)歌安卓(zhuo)官方接受的首批RISC-V補丁就來自阿(a)里。

國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲

新的產業聯盟也在組(zu)建。達摩院(yuan)發(fa)起成立“無劍聯盟”,Arteris、芯昇科技、新思科技、Imagination、中(zhong)國電信研究院(yuan)等首(shou)批加入。

聯盟成(cheng)員將基于(yu)玄鐵處理器緊密(mi)推進IP協同、工具鏈優化、操作系統及軟件適配、解(jie)決方案拓展(zhan)、應用推廣(guang)等工作,以持續降低RISC-V開發成(cheng)本,縮短產品及應用上市時(shi)間,讓終端(duan)廠(chang)商以更快的(de)速度找到更適配的(de)RISC-V方案。

結語:關鍵是讓RISC-V生態伙伴們賺到錢

十年之(zhi)間,RISC-V從一個青澀的(de)學(xue)生(sheng)項(xiang)目發(fa)展成如今最受(shou)期(qi)待的(de)開源創新芯片生(sheng)態,一路加速產業(ye)化進程,在(zai)不(bu)同行業(ye)場(chang)景實現應(ying)用創新。

“在(zai)全球半導體產業發展(zhan)史上,開(kai)源開(kai)放(fang)的(de)RISC-V第(di)一次(ci)讓所有企(qi)業和開(kai)發者(zhe)都能充分地、自(zi)由地貢獻自(zi)己(ji)的(de)智慧。”張建鋒認為,RISC-V發展(zhan)的(de)動(dong)力(li)不是(shi)要(yao)取代傳統(tong)架(jia)構,而是(shi)以開(kai)放(fang)創(chuang)新(xin)充分發揮自(zi)身優勢。

“聚(ju)焦RISC-V發展中國芯片產(chan)業,有(you)助于在新(xin)(xin)時期下(xia)貫徹(che)實施(shi)「以(yi)科(ke)技創(chuang)新(xin)(xin)催生(sheng)新(xin)(xin)產(chan)業、新(xin)(xin)模(mo)式、新(xin)(xin)動能,發展新(xin)(xin)質生(sheng)產(chan)力」的方針。”倪光南院士提(ti)出建議,我們應該發揮超(chao)大規模(mo)市場優勢(shi)和人才優勢(shi),大力支(zhi)持(chi)開源(yuan)創(chuang)新(xin)(xin),與世(shi)界協同,促進RISC-V生(sheng)態繁榮。

今天,在大廠闊綽出手匡扶、中小型廠踴(yong)躍參與的大趨勢下,選擇RISC-V的芯片和軟件越(yue)來越(yue)多(duo),RISC-V越(yue)來越(yue)像一(yi)場(chang)專(zhuan)業的“全民運動”,將其開源、靈活、模塊(kuai)化、可擴展(zhan)的指令(ling)集架構與各個細分場(chang)景的高性能(neng)需求(qiu)相結合,通(tong)過形(xing)成(cheng)生態合力(li),裂變出更多(duo)創新的可能(neng)。

李(li)春強透露道,達摩(mo)院(yuan)會往產業化(hua)做更多(duo)事(shi)情,包括在RISC-V做更多(duo)原生,最(zui)關鍵(jian)的(de)是,最(zui)終怎么(me)讓(rang)合作伙(huo)伴(ban)在RISC-V生態(tai)圈真正賺到(dao)錢(qian)。