
智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影
國產AI芯(xin)片正處于重要的歷史機(ji)遇窗口。
今(jin)年(nian)的模(mo)型創(chuang)新(xin)仿(fang)佛踩(cai)上風火輪(lun),開源模(mo)型密集發(fa)布更新(xin),進一步(bu)引(yin)爆推理需求(qiu)增長。AI推理芯片(pian)將在(zai)接(jie)下來的AI產業發(fa)展進程中扮演更加重要的角色(se)。
在世界人工智能大會期間,云天勵飛公布全面聚焦AI芯片的最新戰略,并披露最新AI芯片全產品矩陣及未來三年商用路線圖,計劃到2028年將單芯片算力最高擴展至數千TOPS。
憑借創新的“算力積木”架構,云天(tian)勵飛AI芯片(pian)能實現7B、14B、130B、671B等不同(tong)參(can)數(shu)量大模型(xing)的高效推理(li),適配DeepSeek-R1系列模型(xing)、阿里QwQ-32B模型(xing)及(ji)國產鴻蒙操作(zuo)系統。云天(tian)勵飛CTO李愛軍告訴(su)智(zhi)東西,包括DeepSeek、Qwen模型(xing)在內,云天(tian)勵飛AI芯片(pian)與(yu)主流開源(yuan)模型(xing)均已(yi)完成(cheng)適配。
特別的是,云天勵飛打造的是“純血版國產工藝AI芯片”,而且(qie)實現(xian)端邊(bian)云(yun)“三棲”落地(di),應用場景小到嵌入式硬件,中(zhong)到邊(bian)緣計算與具(ju)身智能,大(da)到萬億參數大(da)模(mo)型。
在(zai)具身智(zhi)能領域,云天勵飛已與十(shi)余(yu)家(jia)機器(qi)人廠商建立(li)合作(zuo)關系,邊緣芯片產品應(ying)用于服務(wu)型機器(qi)人已進(jin)入實際部署階段。該公(gong)司還作(zuo)為(wei)創始股東之一,參與投(tou)資了深圳國創具身智(zhi)能機器(qi)人有(you)限(xian)公(gong)司,探索(suo)AI推(tui)理芯片在(zai)具身智(zhi)能等未(wei)來前沿方向的應(ying)用和落(luo)地。
值此(ci)時機,云(yun)天勵(li)飛(fei)(fei)為何全(quan)面聚焦(jiao)AI芯片?又如何在日(ri)趨(qu)激烈的AI芯片競賽突出(chu)重圍?云(yun)天勵(li)飛(fei)(fei)董事長(chang)兼CEO陳寧(ning)博士、云(yun)天勵(li)飛(fei)(fei)CTO李愛軍與智東西進行了(le)深入交流。
一、風起大模型,解讀AI推理風向與歷史性機遇
云天勵飛董(dong)事(shi)長兼CEO陳寧博士談道(dao),2030年是全(quan)球公認的AGI(通(tong)用人工智能(neng))可(ke)能(neng)實現重大(da)突(tu)破的一個轉折時(shi)間點。
2025年上半(ban)年,AI應用落地提速,Agent成(cheng)本的降低將(jiang)帶來應用普(pu)惠,隨著AI應用無處不在,全球(qiu)AI將(jiang)從訓練時(shi)代進入以應用驅動為核(he)心(xin)的推理時(shi)代。
過(guo)去(qu)十多年(nian),AI領域經(jing)歷了(le)以訓練為核心的GPU時代——通過(guo)訓練大(da)規(gui)模模型獲取基礎(chu)能力,類似于電(dian)力時代的“發(fa)電(dian)”,注重大(da)規(gui)模生產算力。
而AI推理芯片的關鍵在于“用電”,即在(zai)終端(duan)及云(yun)邊(bian)端(duan)以低成本(ben)、高效率完成推理運算(suan),更關注(zhu)成本(ben)效率及規模(mo)化應用,不像訓練芯片(pian)那樣(yang)依賴CUDA。
在(zai)此背(bei)景下,AI推(tui)理芯(xin)片的重要性(xing)逐漸上(shang)升,成為推(tui)動AI技術應用落(luo)地及與商業(ye)化的核心驅動力。
陳寧認為,AI推理芯片不僅在推理效(xiao)率(lv)、能效(xiao)方(fang)面具有重大優勢(shi),它們還將(jiang)作為(wei)(wei)智能硬件、機器人、智能設備等終端產品的“引擎”,成為(wei)(wei)AI產業大規模應(ying)用(yong)的核心基礎。
AI推理芯片(pian)是中國搶占第四次(ci)工業(ye)革命的一張關鍵入場券。隨著2030年AGI(通用人工智(zhi)能(neng))突破的潛在(zai)臨近(jin),AI推理芯片(pian)能(neng)否實(shi)現成本、性能(neng)和生(sheng)態的突破,決定了中國能(neng)否在(zai)新一輪技術浪潮中占據主(zhu)動。
未來(lai)五年,從可(ke)穿戴(dai)設(she)備(bei)、AI原生(sheng)硬件、智能終端到算力設(she)備(bei),AI將重塑所(suo)有電(dian)子設(she)備(bei),推理算力網(wang)絡將無處不在(zai),推動推理芯片市場(chang)迎(ying)來(lai)爆發。
在(zai)國(guo)(guo)外先進算力幾乎完全(quan)禁售的背景下,這將帶給國(guo)(guo)產全(quan)自(zi)主可控AI推理算力巨大(da)市場機會。
經(jing)過10年積(ji)累,云天(tian)勵飛在(zai)AI推(tui)理芯片技(ji)術研發和(he)市場應用(yong)上的布局(ju)逐漸成熟,選擇在(zai)2025年全面聚焦AI推(tui)理芯片,抓住這一歷史(shi)性機(ji)遇。
二、圍繞AI芯片沉淀四大業務板塊,端邊云支撐高性價比大模型推理
到2028年,云天勵飛計劃研發三(san)代“算力積木”架構,布局三(san)大商用計算平臺(tai)(深界、深擎、深穹),算力最高可擴展至數千TOPS。下一(yi)代芯(xin)片將基于第(di)二代“算(suan)力積木(mu)”架(jia)構,通(tong)過新(xin)型(xing)計算(suan)、近存計算(suan)、NB-Mesh新(xin)型(xing)互(hu)連(lian)、新(xin)型(xing)封裝、NB-Link通(tong)用擴(kuo)展性五大(da)創新(xin),打造新(xin)型(xing)大(da)模型(xing)推理平臺。
· 深穹:大(da)模型推理一體機
· 深(shen)界:邊緣網關(guan)、邊緣盒子
· 深(shen)擎:機器人/無人機/無人車
基于國產工藝及自研“算力積木”架構,其深界DeepEdge10平臺已適配DeepSeek、QwQ-32B模型及鴻蒙操作系(xi)統。
云(yun)天勵(li)飛的整體(ti)產(chan)品布局圍繞自研AI推(tui)(tui)理芯(xin)片展開,沉淀出(chu)4大業(ye)務板塊,布局端邊(bian)云(yun),聯合(he)生態合(he)作伙伴推(tui)(tui)出(chu)覆蓋從模組、邊(bian)緣推(tui)(tui)理盒子、AI推(tui)(tui)理加速卡、大模型推(tui)(tui)理一體(ti)機(ji)、智算(suan)服務器等(deng)產(chan)品。
其產品已廣泛應用于智(zhi)(zhi)算(suan)中心(xin)、智(zhi)(zhi)慧城市、具身智(zhi)(zhi)能機器人等領域。
2024年6月,云天勵飛簽署《AI算力運營合作框架協議》,拿到16億元的(de)算(suan)(suan)力(li)(li)服務大單,提供總(zong)算(suan)(suan)力(li)(li)規模約(yue)4000PFLOPS的(de)AI訓練及(ji)推理異構算(suan)(suan)力(li)(li)服務。
面向具(ju)身(shen)智(zhi)能(neng)和(he)機器(qi)人領域,云(yun)(yun)天勵飛戰略投資閃極科技(ji)、智(zhi)慧互通、臻識(shi)科技(ji)、神(shen)州云(yun)(yun)海、國創具(ju)身(shen)機器(qi)人等,為AI推(tui)理芯片的應(ying)用開辟了更多(duo)元化的場景。
未來云天勵飛AI推理芯片計劃重點面向三大市場:邊(bian)緣計算、云端大模型(xing)推理、智能機器。
在市場拓展方(fang)面(mian),云天(tian)勵(li)飛獲得16億元算力服(fu)務大(da)單(dan),顯(xian)示了(le)其產品在部分(fen)關鍵領域(yu)的商業認可(ke)度。
三、靠芯片拿到創業“第一桶金”,云天勵飛做AI芯片的基因與優勢
身為一家AI公司,云天勵飛為什(shen)么要自研AI推理芯(xin)片?答(da)案(an)是通過深入(ru)匹配特定應用場景,自研AI芯(xin)片一旦形成(cheng)規模化,就能帶來更好的成(cheng)本效益。
據陳寧分享,云天(tian)勵飛核心創始團隊具備深厚的NPU芯片設計經驗,最早(zao)從2009年開始參與神經網絡處理器相關設計。
該公(gong)司的第一筆(bi)融資(zi),也來源于芯片。
2014年,云天勵飛剛(gang)成立時(shi),初(chu)心(xin)是(shi)通(tong)過NPU降低(di)AI計(ji)算成本,當時(shi)還(huan)用NPU課題申報(bao)了政府(fu)的人才引進項目(mu),還(huan)拿(na)下第(di)一,得到研發資金支持。
可以說,芯片,正是云(yun)天勵飛(fei)初期(qi)獲(huo)得投資的關鍵。
云天勵飛在2015年(nian)啟(qi)動第一(yi)代深度學(xue)習處理器(qi)的(de)研(yan)發,2018年(nian)-2019年(nian)第二代AI芯片(pian)DeepEye1000流片(pian)成(cheng)功,并且在之后(hou)幾年(nian)中,云天勵飛AI芯片(pian)相繼并下國家發改(gai)委、科技(ji)部、工信部重大(da)專項的(de)“大(da)滿(man)貫”,結合自身技(ji)術積(ji)累(lei)及市場需求,逐步(bu)發展成(cheng)集(ji)芯片(pian)設計、軟硬件集(ji)成(cheng)和應用落(luo)地于一(yi)體的(de)企業。
2020年(nian)5月,因(yin)被(bei)列入美國實體清單,云天勵飛不得做出(chu)戰略(lve)調整,堅定轉向國產工藝路線(xian)。
面對國產工藝尚不成熟的挑戰,它首創“算力積木”架構,并敲定國產先進工藝的合作,成為首家采用國產Chiplet工藝的AI芯片,自(zi)此踏上用(yong)國產工藝設(she)(she)計(ji)商用(yong)AI芯片的(de)(de)新階段。“算力積(ji)木(mu)”架(jia)構通過模塊(kuai)化設(she)(she)計(ji)解決(jue)單芯片面(mian)積(ji)與良率的(de)(de)矛盾,以實現算力的(de)(de)可(ke)擴展性和(he)商業(ye)化應用(yong)。
自2020年決(jue)定轉向國產工(gong)藝(yi)后,云天(tian)勵飛不(bu)僅克服了(le)當時國產工(gong)藝(yi)的不(bu)成熟問題(ti),還通(tong)過(guo)技(ji)術創新(xin)實(shi)現(xian)了(le)算力積(ji)木(mu)架構的突破(po)。通(tong)過(guo)自主(zhu)研發的算力架構和(he)互連技(ji)術,云天(tian)勵飛在推理芯片領域取得(de)了(le)顯著的技(ji)術進展,并將其(qi)成功(gong)轉化為(wei)實(shi)際的產品。
此后兩年多時(shi)間,云天勵飛(fei)斬獲第(di)十屆吳文俊人工智能專項(xiang)獎(jiang)芯片項(xiang)目(mu)一(yi)等獎(jiang),發布(bu)大(da)模型邊(bian)緣推理一(yi)體芯片深界(jie)DeepEdge10,全面(mian)入局大(da)模型推理。
這(zhe)兩年來,云天(tian)勵(li)飛相繼推出(chu)AI推理芯片深(shen)界(jie)DeepEdge200、大模型推理加速(su)卡(ka)深(shen)穹6000及深(shen)穹X6000 Mesh加速(su)卡(ka),其DeepSeek一體(ti)機解決方案在深(shen)圳龍崗、南山(shan)、湛江等城(cheng)市落(luo)地。
結合算力架構演進趨勢,云天勵飛在過去10年(nian)研發了5代NPU,技(ji)術路徑貫穿從小規(gui)模CNN算法到面向(xiang)大規(gui)模預訓練(lian)模型的(de)(de)異構(gou)計(ji)算需(xu)求(qiu)。這(zhe)些(xie)在(zai)智能硬件、智算中心(xin)、智慧(hui)城市等領域(yu)積累(lei)的(de)(de)know-how和經(jing)驗(yan),為(wei)其芯(xin)(xin)(xin)片設計(ji)和持(chi)續迭代提(ti)供(gong)了明(ming)確指導,形成了算法-芯(xin)(xin)(xin)片-應(ying)用(yong)的(de)(de)“數(shu)據飛輪(lun)”閉(bi)環,推(tui)動AI和芯(xin)(xin)(xin)片技(ji)術持(chi)續迭代。
“算法芯(xin)片化”一直是云天勵(li)飛的核(he)心(xin)技(ji)術策略,將(jiang)不(bu)斷進(jin)化的AI算法(fa)映射至芯(xin)片(pian)架(jia)構,確(que)保算法(fa)與硬(ying)件高度契(qi)合。基(ji)于(yu)技(ji)術與應用雙(shuang)輪驅動,云天勵(li)飛旨在提升(sheng)AI推理芯(xin)片(pian)在性能、成本、功(gong)耗及生(sheng)態(tai)兼容等方面的綜合競爭力,堅持“算法(fa)芯(xin)片(pian)化”技(ji)術策略。
通過與生態伙伴緊密(mi)合作(zuo),云天勵飛進一(yi)步加強了產品的市(shi)場適配,尤其是在(zai)具身智能(neng)和邊(bian)緣(yuan)計算領域,確保其AI推理芯片(pian)能(neng)夠在(zai)不同應用環境中發揮最佳性能(neng)。
結語:AI推理芯片未來,看中國
AI芯(xin)片(pian)是智能硬(ying)件和(he)算力(li)網絡的(de)核心(xin),AI推理芯(xin)片(pian)的(de)需(xu)求已進入加(jia)速期,國(guo)產(chan)AI芯(xin)片(pian)正面臨前所(suo)未有的(de)機(ji)遇。而中(zhong)國(guo)作為全(quan)球AI產(chan)業(ye)重要一環,必(bi)須在這(zhe)一浪潮中(zhong)抓住核心(xin)技術(shu)機(ji)遇。
云天勵飛通過(guo)“算力積木”架構和(he)國產(chan)工(gong)藝的創(chuang)新,以及(ji)持(chi)續的產(chan)業積累(lei),提(ti)供高(gao)效(xiao)、低成本的AI推理芯片(pian)產(chan)品,逐(zhu)步打(da)破技術和(he)工(gong)程壁壘(lei),滿足大模型推理的廣泛需求。
隨著AI推(tui)理(li)需求(qiu)的爆發和國產(chan)生態(tai)的不斷完(wan)善,AI推(tui)理(li)芯片(pian)的全(quan)球競爭預計將更加激(ji)烈。國產(chan)AI芯片(pian)的發展不僅依賴(lai)于技(ji)術突破(po),更需產(chan)業鏈上下游的協同配(pei)合。
面對技術突破及生態構建挑戰,云天勵飛的戰略聚焦將不僅限(xian)于技術創(chuang)新,還要通過推(tui)動推(tui)理芯片(pian)(pian)標準化,為國產芯片(pian)(pian)在全球市場(chang)的布局鋪平道路。