
智東西(公眾號:zhidxcom)
作者?| 程茜
編輯?| 心緣
智(zhi)東(dong)西4月14日(ri)報道,明天,北電數智(zhi)首屆酒仙橋論壇將于(yu)北京舉辦(ban),以“開(kai)(kai)啟AI生產(chan)力元年”為(wei)主題(ti),圍繞產(chan)業創(chuang)新(xin)應用(yong)、生態發展(zhan)與(yu)數智(zhi)未來三大議題(ti),覆蓋(gai)AI基(ji)礎設施、數據(ju)、算力、模(mo)型、產(chan)業、應用(yong)、人才(cai)多個話題(ti)開(kai)(kai)展(zhan)為(wei)期6天11場(chang)論壇。
演講嘉賓包括中國工程院(yuan)院(yuan)士鄔賀銓、中國信通院(yuan)云計算與(yu)大數據研(yan)究所(suo)所(suo)長何(he)寶宏、京東(dong)方(fang)科(ke)(ke)技集團(tuan)科(ke)(ke)學家冷長林、北方(fang)華創微電子副總裁夏凡(fan)等。
北(bei)電(dian)數智是(shi)北(bei)京(jing)電(dian)控旗下高(gao)科技企(qi)業,成立于(yu)2023年8月。上個(ge)世紀50年代,酒仙(xian)橋是(shi)北(bei)京(jing)電(dian)控前(qian)身北(bei)京(jing)751廠的(de)所在地,在這片區(qu)域(yu)生產出了新中(zhong)國第(di)一支電(dian)子管、第(di)一臺電(dian)話(hua)交換機等,北(bei)電(dian)數智的(de)首屆酒仙(xian)橋論壇也在此開啟。
目(mu)前北電數智已經形成一(yi)個底座、兩個平(ping)(ping)臺的布局,即“星火·智算”AI產業(ye)發展底座與傳統產業(ye)賦(fu)能平(ping)(ping)臺、新興產業(ye)加速平(ping)(ping)臺。
北電數智(zhi)CMO楊震談道,目前(qian)國內還沒有真正意義上(shang)的(de)(de)智(zhi)算(suan)(suan)云,未來當芯片層、模型層進入穩定收斂(lian)期,智(zhi)算(suan)(suan)云才能有固化形(xing)態。因此,北電數智(zhi)正以(yi)不同切面(mian)的(de)(de)共(gong)性平臺來逐(zhu)步(bu)形(xing)成初步(bu)的(de)(de)智(zhi)算(suan)(suan)云。
北(bei)電(dian)數(shu)(shu)智CTO謝東(dong)從三(san)個角度(du)剖(pou)析(xi)了北(bei)電(dian)數(shu)(shu)智在產業中的(de)差異化(hua)優勢(shi),首(shou)先是(shi)(shi)目標,北(bei)電(dian)數(shu)(shu)智的(de)目標是(shi)(shi)借助AI支持產業快(kuai)速發(fa)展(zhan)(zhan);其次是(shi)(shi)身份,作為國企,該公司(si)可以(yi)更容易和頭部企業合(he)作;第(di)三(san)是(shi)(shi)布局(ju),北(bei)電(dian)數(shu)(shu)智擁有全棧AI能力(li),縱向(xiang)提供(gong)算(suan)力(li)、模型(xing)、軟件服務,根(gen)據不同(tong)城(cheng)市的(de)產業發(fa)展(zhan)(zhan)需求,打通(tong)當(dang)地產業鏈(lian),讓技術能快(kuai)速落地,橫向(xiang)是(shi)(shi)廣泛的(de)生態布局(ju)。
一、打造千P規模城市級智算中心,針對國產芯片進行算法優化
北電(dian)數智打造的(de)北京數字經濟算力中心,通過(guo)高性能“異構計算平臺”“星火(huo)·國產算力AI原生適(shi)配認證(zheng)”技(ji)術體系(xi),提供從芯片選型到算力配置、場(chang)景適(shi)配的(de)最優算力方案。
該算(suan)力中心占地面積35000平(ping)方米,PUE值為1.14,是城市級智算(suan)中心中最低的。楊震(zhen)解釋說,一(yi)般這樣的PUE指標通常會出現在(zai)平(ping)原或(huo)戈壁等散熱條件好的智算(suan)中心上。
并且其混元(yuan)算(suan)力(li)(li)已經部署達到1000P,其中(zhong)集成了70%的國產(chan)芯片(pian)、30%的英偉達芯片(pian),未來這一智算(suan)中(zhong)心(xin)將有能力(li)(li)提供(gong)萬P算(suan)力(li)(li)。
從算(suan)力角度(du)看,目前(qian)國產算(suan)力整體有兩(liang)個特性(xing),產能不(bu)夠(gou)、各家發展不(bu)均,面對海量、高頻推理任務,需要不(bu)同(tong)的算(suan)力集群聯(lian)合。
2023年(nian)10月,北電數(shu)智打造了先進(jin)計算迭代(dai)驗(yan)證平(ping)臺,早期這一(yi)平(ping)臺的目(mu)的是以(yi)集群接近(jin)生產環(huan)境(jing)進(jin)行測試,之后他(ta)們發現,需要讓不同芯片(pian)協同作戰(zhan),才可以(yi)完成市(shi)面(mian)上的一(yi)些任(ren)務。
基于此,北電數(shu)智基于異構納(na)管等策(ce)略,同時實現了算法加(jia)速和模型適配,使得芯片(pian)和主流基座模型實現交叉適配,同時基于稀疏計算等讓芯片(pian)性能提升。
楊震解釋(shi)說(shuo),其底層技術路線和DeepSeek的工(gong)程(cheng)優化類似,不同的是(shi)(shi)DeepSeek是(shi)(shi)其模型(xing)(xing)本身針(zhen)對(dui)H800的優化,北(bei)電數(shu)智(zhi)則進行(xing)了(le)(le)普(pu)適的國(guo)產芯片、主(zhu)流基座(zuo)模型(xing)(xing)優化。去年12月,北(bei)電數(shu)智(zhi)推出了(le)(le)國(guo)產算(suan)力PoC平臺。
楊震(zhen)透露,目前北電數智的(de)算(suan)力集(ji)群(qun)中通過協同作戰的(de)方式對外提供服務,已經打造了550P國產算(suan)力集(ji)群(qun),這(zhe)也是國內最(zui)大(da)的(de)混元集(ji)群(qun)。在(zai)算(suan)法(fa)加速提升(sheng)芯片性能上,平均來說(shuo)可以讓(rang)整個國產算(suan)力表現(xian)(xian)提升(sheng)1-2倍、2-3倍,吞吐(tu)量(liang)提升(sheng)7-8倍,推(tui)理(li)表現(xian)(xian)上,配合針對性的(de)算(suan)法(fa)加速,實(shi)現(xian)(xian)首字延(yan)(yan)遲的(de)10倍優化,解碼(ma)延(yan)(yan)遲10倍優化,吞吐(tu)量(liang)提升(sheng)80倍以上。
謝東談道,國(guo)產芯(xin)片單顆芯(xin)片綜(zong)合能力和(he)國(guo)際的先進(jin)芯(xin)片有差距,因(yin)此他們的策略有兩個,一(yi)是芯(xin)片合起來(lai)辦大(da)事,二是各自做擅長(chang)的事。
二、1個底座+2大平臺,智算中心要進入精細化運營
北電數(shu)(shu)智(zhi)的底座(zuo)包(bao)含AI計算基礎設施、AI數(shu)(shu)據(ju)服務。楊震談道,數(shu)(shu)據(ju)是(shi)模型(xing)的燃料,此(ci)前數(shu)(shu)據(ju)要(yao)素面臨供不(bu)出(chu)、流不(bu)動、用不(bu)好且不(bu)安全的難題(ti),基于此(ci),北電數(shu)(shu)智(zhi)去年在可信數(shu)(shu)據(ju)空(kong)間的基礎上(shang)將(jiang)其提升為(wei)AI可信數(shu)(shu)據(ju)服務。
兩(liang)個平(ping)臺為傳(chuan)統產(chan)(chan)(chan)(chan)業(ye)(ye)升級(ji)平(ping)臺和新興產(chan)(chan)(chan)(chan)業(ye)(ye)加速平(ping)臺,傳(chuan)統產(chan)(chan)(chan)(chan)業(ye)(ye)升級(ji)平(ping)臺指AI+產(chan)(chan)(chan)(chan)業(ye)(ye)、AI+城市等(deng),新興產(chan)(chan)(chan)(chan)業(ye)(ye)加速平(ping)臺就是具(ju)身智能、無人(ren)駕(jia)駛等(deng)AI原(yuan)生(sheng)業(ye)(ye)務。
楊震認為,智算中心應該進入(ru)精(jing)細(xi)化(hua)運(yun)營階段,目前智算中心有(you)的被閑置,有(you)的智算中心與企業(ye)需求不相匹配,很多(duo)企業(ye)不會用(yong)、用(yong)不起(qi),產生結(jie)構性矛盾。
在數(shu)據層(ceng)面,去年7月(yue),北電數(shu)智推出可(ke)(ke)信數(shu)據空間,實(shi)現了讓數(shu)據可(ke)(ke)用(yong)不可(ke)(ke)得、可(ke)(ke)用(yong)不可(ke)(ke)見(jian)。
楊震說,近(jin)期可(ke)(ke)以進行聯(lian)網(wang)搜(sou)索的DeepSeek在使(shi)用時效果變差了(le),這是因(yin)為它不可(ke)(ke)避免(mian)會受(shou)到互(hu)聯(lian)網(wang)數(shu)據的影響(xiang)。可(ke)(ke)信數(shu)據空間(jian)中,可(ke)(ke)以實現數(shu)據源可(ke)(ke)信,就能有效避免(mian)模型(xing)被(bei)互(hu)聯(lian)網(wang)數(shu)據毒(du)害。
謝東補充說,大模型的(de)能力在企業(ye)中(zhong)需(xu)要專(zhuan)業(ye)知識(shi)加持,需(xu)要好的(de)基座模型+專(zhuan)業(ye)知識(shi)庫,保(bao)證(zheng)信息實(shi)時更新,對專(zhuan)業(ye)問(wen)題回答(da)得準,這也是可信數據空間(jian)能避(bi)免模型被互聯(lian)網數據毒害的(de)原因。
這一數(shu)據(ju)底座之(zhi)上,北電數(shu)智為企業(ye)提(ti)供了資產管理、數(shu)據(ju)流通和(he)利(li)用(yong)、AI數(shu)據(ju)生成等服務。楊震舉(ju)例(li)說,在醫療行業(ye),北電數(shu)智正將可(ke)信數(shu)據(ju)空間對外運營,也就(jiu)是讓更多市場端(duan)企業(ye)可(ke)以(yi)在一定情況下調(diao)用(yong)其中的(de)醫療數(shu)據(ju)能力(li)。
AI全(quan)棧能(neng)力的協同計算(suan)方面,北電數智(zhi)形成了(le)AI異構計算(suan)平(ping)臺和模(mo)型適配(pei)平(ping)臺。
AI異構計算(suan)平臺可(ke)以將(jiang)(jiang)不同算(suan)力集群進行統一納管、靈(ling)活調度,模(mo)(mo)(mo)型適配平臺包含訓練推(tui)理(li)的適配加速、混推(tui)混訓部(bu)署、數據集管理(li)等(deng)。模(mo)(mo)(mo)型層有(you)開源(yuan)模(mo)(mo)(mo)型倉庫(ku)、訓推(tui)工(gong)具(ju)、Agent定制拼圖。模(mo)(mo)(mo)型適配平臺已經對(dui)主(zhu)流24個(ge)大模(mo)(mo)(mo)型做了適配和加速支撐(cheng)。楊震將(jiang)(jiang)其比作(zuo)筆記本電腦,筆記本電腦需(xu)要在(zai)操作(zuo)系(xi)統之上,安裝辦公、財務等(deng)各類軟件(jian)。
傳統(tong)產業賦能(neng)平臺分為醫療、工(gong)業制造的產業層面(mian)。北電數智正在和北京(jing)5家三甲醫院合作打造專項模型,楊震透露(lu),截止到(dao)今年(nian)(nian)年(nian)(nian)底,其將和北京(jing)超(chao)過10家的三甲醫院合作。
對于企(qi)業而(er)言,他們(men)需(xu)要構筑企(qi)業層面知識(shi)庫、將企(qi)業工作流重新進(jin)行整合、通過數據整合實現(xian)企(qi)業的(de)多智能體開發(fa),產生全新的(de)工作流模式等。
在(zai)新興產業方面,具身智能(neng)針對家庭(ting)場(chang)景訓練,需要虛擬仿(fang)真的訓練環境、物(wu)理(li)模型等,基(ji)于此,北電數智將搭建(jian)平臺(tai)幫助機器人和實際場(chang)景相結合。
楊震進一步解釋了“搭平(ping)臺”的(de)含(han)義,就是提供從芯片、數據、服務、模型、應用層的(de)服務,讓不同生態伙(huo)伴有機會接觸實際場景。
結語:AI落地加速,深度運營、持續增長、因地制宜成智算中心關鍵
AI正在加速落地各(ge)行各(ge)業(ye),但(dan)不同(tong)企(qi)業(ye)的(de)核心需求(qiu)不同(tong),為智算中心的(de)建設提出了更高(gao)要求(qiu)。
在業(ye)務(wu)布局上(shang),北電(dian)數(shu)(shu)(shu)智圍繞一個AI底(di)座以及傳統產(chan)業(ye)升級和(he)新興產(chan)業(ye)加速兩大核心(xin)方向(xiang),構建起了(le)一套(tao)完善的業(ye)務(wu)體(ti)系(xi)。楊震(zhen)談道,北電(dian)數(shu)(shu)(shu)智的差異化定位(wei)和(he)核心(xin)競爭優勢(shi)是,找產(chan)業(ye)鏈(lian)的卡點和(he)斷(duan)點,從(cong)算力、算法、數(shu)(shu)(shu)據、模型(xing)服務(wu)、工具鏈(lian)等全面服務(wu),滿足(zu)全生命周期需(xu)求。
在(zai)這個(ge)基礎上,北(bei)電數智構建智算(suan)中心的邏輯就是深度運(yun)營、持續增長,并根據當地(di)(di)(di)產業(ye)結(jie)構,實行“一地(di)(di)(di)一策”,與此同(tong)時(shi),他們在(zai)深入當地(di)(di)(di)時(shi),又會聯動生態(tai)伙伴找到自己的商業(ye)機會,形成有(you)當地(di)(di)(di)產業(ye)結(jie)構特色的新興(xing)產業(ye)生態(tai)和集群。