智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影

智(zhi)東西12月19日報道,在生成(cheng)(cheng)式AI熱(re)潮(chao)中,憑借(jie)與英偉達的合作以及(ji)拿(na)下10億級GPU算力大單,成(cheng)(cheng)立僅1年(nian)多的英博數科(ke)成(cheng)(cheng)為現象級“算力黑馬”,并帶動其母公司彩(cai)票巨頭鴻博股(gu)份股(gu)價今年(nian)迄今漲幅(fu)高達347%。

在(zai)(zai)新華社國(guo)家(jia)(jia)重點(dian)實驗(yan)室(shi)指導下,英博數(shu)科本周一舉辦了首屆AI Tech Day暨人工智能生態(tai)發展(zhan)峰會(hui)。英博數(shu)科的多家(jia)(jia)生態(tai)合作伙伴及客戶(hu)們在(zai)(zai)會(hui)上進行主題分享。

百川智(zhi)能創始(shi)人、CEO王小川,軟通智(zhi)慧CTO楊旭青,潞晨科技(ji)Colossal-AI云平臺負責(ze)人崔子源,無問芯(xin)穹聯(lian)合創始(shi)人、CEO夏立(li)雪(xue),愛奇(qi)藝AI基礎服(fu)務(wu)總(zong)監董峰,分別從(cong)大模型的技(ji)術發展、體系設計、能效(xiao)優化(hua)、降(jiang)低(di)成本、生成式AI應用實踐(jian)等(deng)角度輸出(chu)了大量干貨。

這場(chang)大會上,英博(bo)數科正式宣布戰略升(sheng)級(ji),從1.0階段定(ding)位大模型算(suan)力服(fu)務商,升(sheng)級(ji)到2.0定(ding)位“AGI全(quan)棧生態(tai)服(fu)務平臺”——為AGI全(quan)產業鏈客戶提(ti)供(gong)充(chong)足穩定(ding)的算(suan)力和全(quan)棧式解決方案。

同(tong)時,英博(bo)數科重磅推出“搏博(bo)云(yun)”,作(zuo)為匯(hui)聚生態開(kai)發者、提供增值服務(wu)的產品(pin)平臺(tai),以開(kai)源生態助力實現產業價值落地。

AI Tech Day期間還宣布包括“AGI泛娛樂聯盟”、“梧桐計(ji)劃”、“MM豆(dou)計(ji)劃”在內的(de)(de)眾多生態(tai)重磅商業(ye)化(hua)落(luo)地(di)項目,并成立了北京(jing)·AI創新賦能中(zhong)心技術委員(yuan)會,從而更好地(di)解(jie)決軟硬件融(rong)合、讓算(suan)力自由可(ke)控的(de)(de)研發課題,為(wei)中(zhong)國人工(gong)智(zhi)能(AI)產業(ye)打(da)造(zao)最領(ling)先(xian)的(de)(de)技術解(jie)決方(fang)案(an)樣板工(gong)程(cheng)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

一、10月份累計交付3000P AI算力,迄今累計簽約超過18億元

鴻博股(gu)份副總(zong)裁、英(ying)博數科CEO周韡(wei)(wei)韡(wei)(wei)首先(xian)回顧了英(ying)博數科發展(zhan)歷(li)程和關鍵節(jie)點(dian):

英(ying)博數科于(yu)2022年6月在(zai)北(bei)京成立,同年與中(zhong)關村(cun)服務聯盟、英(ying)偉達共同合(he)作成立北(bei)京·AI創新賦能中(zhong)心(xin),并獲(huo)得了(le)24個城市IDC運營許可。

進(jin)入今(jin)年,英博數科在2月交付(fu)(fu)首個DGX A800 AI算(suan)力集群,10月累計交付(fu)(fu)3000P AI算(suan)力,持續(xu)擴張單一通(tong)訊集群超(chao)大(da)智算(suan)單元(yuan),截至今(jin)年12月累計簽約額超(chao)過18億人民(min)幣。

其客戶類型既(ji)有像百川智能、MiniMax、深言科(ke)(ke)(ke)技等國(guo)內頭(tou)部(bu)大(da)(da)模型客戶,也有像潞晨科(ke)(ke)(ke)技、無問(wen)芯穹這樣的頭(tou)部(bu)中間層算法技術(shu)服(fu)務商。同時,英博數科(ke)(ke)(ke)入(ru)資(zi)布局(ju)了包(bao)括公(gong)安經偵(zhen)大(da)(da)模型創新企業(ye)中科(ke)(ke)(ke)朗(lang)克和大(da)(da)模型泛娛樂短劇、游戲公(gong)司等首(shou)批應用場景(jing)的優質(zhi)公(gong)司。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈▲鴻博(bo)股份副總裁、英博(bo)數(shu)科CEO周韡(wei)韡(wei)

周韡韡回(hui)憶說,作為(wei)第一批吃(chi)螃(pang)蟹(xie)的(de)人,2021年英博(bo)數科(ke)啟動之初,就(jiu)開始集海(hai)內外多方力(li)(li)量、資源、團隊(dui)為(wei)算(suan)力(li)(li)儲備努力(li)(li),目(mu)標就(jiu)是打造北京智算(suan)中心樣板(ban),在(zai)全國推廣復制。基于此,英博(bo)數科(ke)并沒有因為(wei)對華芯片限制受(shou)太大影(ying)響,反而超預(yu)期的(de)完成了(le)第一階段的(de)算(suan)力(li)(li)落地和儲備目(mu)標。

“英博數科和客戶的關系更像是親人、手足或者是師生,我們能夠坦誠面對雙方的需求,互相扶持,各施所長,共同成長。”周韡韡談道,客戶與英博數科共同搭建調試出了超越原廠商標準參數的智算集群訓練效果,用高性能國產通訊設備跑出了與昂貴進口設備基本持平的效果。?

二、升級AGI全棧生態服務平臺,發布搏博云V1.0版本

周韡韡宣(xuan)布,英博(bo)數科啟動(dong)第(di)二(er)階段(duan)商業(ye)(ye)戰略(lve)——從(cong)專業(ye)(ye)AI多模態大模型(xing)訓(xun)練(lian)平(ping)臺的定位升級為AGI(通用人工智能)全棧生態服務平(ping)臺。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

在(zai)IaaS基建(jian)層,英博(bo)數科攜手京(jing)能集(ji)團共建(jian)北京(jing)·AI創新(xin)賦能中心,打造對標英偉達H系列產品(pin)的(de)單一(yi)(yi)物理空間(jian)、單一(yi)(yi)通(tong)訊(xun)單元的(de)萬卡智(zhi)算集(ji)群作為算力主單元,并在(zai)其他城(cheng)(cheng)市特別是(shi)東(dong)數西算的(de)主要(yao)節點城(cheng)(cheng)市建(jian)設規模不等(deng)的(de)智(zhi)算中心子單元,從而(er)最大(da)限度滿足不同模型階段(duan)客戶的(de)分布式訓(xun)練(lian)以(yi)及合(he)作伙伴AI生(sheng)態工具交付業務的(de)需求。

在(zai)中間(jian)的(de)(de)PaaS層,客(ke)戶可(ke)在(zai)搏博云(yun)及其工具商店里(li)購買無問芯穹、潞晨科技等英(ying)博數(shu)科生態合作(zuo)(zuo)伙伴提供(gong)的(de)(de)PaaS訓練加(jia)速解決(jue)方案,還可(ke)以基于未來英(ying)博數(shu)科和合作(zuo)(zuo)共同研發的(de)(de)最新X架(jia)構最大(da)限(xian)度降低(di)大(da)模型智算集群的(de)(de)傳(chuan)輸效率(lv)衰減,從而匹配市面幾乎所有兼容CUDA的(de)(de)GPU解決(jue)方案,以幫助平臺上的(de)(de)AGI研發者降本增效。

第三層SaaS服務(wu)層提供(gong)數據工程服務(wu),以高效精準的(de)向(xiang)量數據庫和數據產(chan)品(pin)化服務(wu)提供(gong)為核心,幫(bang)助擁有(you)數據資產(chan)的(de)客戶實現收益變(bian)現。

第四(si)層Data&MaaS層由模(mo)型商(shang)店、數據商(shang)店組成,可(ke)輕(qing)松(song)下載體驗各種(zhong)開源(yuan)模(mo)型,或是購買(mai)垂類應(ying)用(yong)模(mo)型,也(ye)可(ke)以在租用(yong)搏(bo)博云的算力空間(jian)來實(shi)現(xian)定制模(mo)型的私有化(hua)部署使用(yong)和(he)訓練。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

周韡韡認為,通過搭建AI商業交(jiao)易(yi)平臺,實現良性經濟自(zi)(zi)循環的閉環產業鏈,是讓AI產業做(zuo)大(da)做(zuo)強的重要(yao)一(yi)環。英博數科(ke)將(jiang)自(zi)(zi)己定位(wei)為一(yi)個企業服務平臺,希(xi)望能夠(gou)加快進步,處理(li)客戶的多樣化(hua)商業需求。據她透露,英博數科(ke)計劃將(jiang)AI Tech Day持續性辦成一(yi)個常規化(hua)的開(kai)(kai)發(fa)者活(huo)動,邀請出(chu)色的產品團隊(dui)開(kai)(kai)發(fa)者直(zhi)接面對市場進行交(jiao)流。

向客戶交付增值服(fu)務工具和(he)匯聚(ju)生態(tai)開(kai)發者(zhe)的平臺,就是搏博云(Best of the Best Cloud)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

它(ta)是(shi)(shi)一個GPU云平臺,現階段主要是(shi)(shi)連接大(da)模型頭部客戶(hu)和希望(wang)加入AI產業的開發者,通過工具、應用、數據(ju)、應用商(shang)店,提供自助開戶(hu)、商(shang)業交易,并可對(dui)接代理商(shang)、加盟商(shang)進行算(suan)力(li)的商(shang)業化調度、為客戶(hu)進行跨平臺數據(ju)遷移、虛擬GPU等功能,實現算(suan)力(li)像水和電一樣隨取隨用。

搏博云將基于算力供給、客(ke)戶模型全(quan)周期(qi)陪伴式(shi)專家調優、數據(ju)工程(cheng)、數據(ju)資產化(hua)與(yu)數據(ju)集市的(de)(de)一站式(shi)聚合云服務,并打造(zao)數據(ju)產品(pin)、工具(ju)服務、模型產品(pin)及眾多開源(yuan)產品(pin)的(de)(de)動態(tai)閉(bi)環(huan)(huan)生態(tai)環(huan)(huan)境,供給、開發者與(yu)需求方的(de)(de)閉(bi)環(huan)(huan),加速大模型從開發到(dao)落(luo)地的(de)(de)進程(cheng)。

同時,搏(bo)博云提(ti)供豐富多樣的(de)(de)工具包,用(yong)戶(hu)(hu)既可為(wei)大(da)模型加載獨(du)(du)立的(de)(de)數據集(ji),也能(neng)(neng)單獨(du)(du)升級基礎模型或能(neng)(neng)力集(ji);工具包能(neng)(neng)將(jiang)復雜(za)的(de)(de)大(da)模型開發(fa)過程(cheng)流程(cheng)化、標準化,幫助用(yong)戶(hu)(hu)實現一站式開發(fa),并(bing)支撐(cheng)構建大(da)模型原生應用(yong)。

三、披露分階定價計劃,積極與ISV服務商合作

會上,英博數科披露了戰略(lve)升(sheng)級后的收入(ru)(ru)構(gou)成(cheng)(cheng),包括搏博云各類商店的分(fen)成(cheng)(cheng),異構(gou)調度、vGPU云服務收入(ru)(ru),算(suan)力、產品和服務代理(li)收入(ru)(ru)的梧桐計(ji)劃,各地算(suan)力納(na)管(guan)銷(xiao)售分(fen)成(cheng)(cheng)的MM豆計(ji)劃甚至(zhi)是相關金融衍生產品等。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

填補高端算力和創新(xin)需(xu)(xu)求之間(jian)的鴻溝,需(xu)(xu)要一個強有(you)力的生態系統支撐。英博(bo)數科致力于(yu)構建生態系統,打造基于(yu)多樣性算力平臺的全線自研產品和通用解決方案。

英(ying)博(bo)數(shu)科(ke)(ke)商務副總(zong)裁孟(meng)健雄分享(xiang)了英(ying)博(bo)數(shu)科(ke)(ke)的(de)M·M·D算(suan)(suan)力聚合,要基于算(suan)(suan)力、結合金融手(shou)段,實現算(suan)(suan)力的(de)融合、放大和多樣(yang)化。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

第一(yi),通過搏博云聚合納管,將(jiang)傳統IDC的計(ji)算算力、電信專業IDC的計(ji)算算力實現跨云融(rong)合;

第二,通過金(jin)融(rong)工具和資本(ben)合作的方式,持續的追(zhui)求(qiu)做國(guo)內(nei)最大的單一物理空間(jian)集群;

最后通過智算中心的建設項目,托管代運營的服務(wu)(wu)和私(si)有云等方式,進一步實現服務(wu)(wu)和算力部署(shu)的多樣化。

比如在(zai)金融方(fang)案中,民營資本在(zai)面(mian)對(dui)智算項目(mu)時(shi)可(ke)能會缺乏客戶儲備、相應技術(shu)背(bei)景和實際運營運維(wei)的(de)經驗,作為金融租(zu)賃服務角(jiao)色,英博數科充(chong)當了一(yi)(yi)個項目(mu)啟(qi)動期運營平(ping)臺的(de)角(jiao)色,在(zai)項目(mu)前(qian)三年提供一(yi)(yi)個收益的(de)兜底方(fang)案。

孟健雄說,這樣的(de)(de)組合(he)能夠充分利用民營(ying)資本、經營(ying)優勢(shi)、英博數科(ke)充裕的(de)(de)算力資源以(yi)及對市場需求的(de)(de)準確預(yu)判,實現雙方利益的(de)(de)最大化。

在定(ding)價(jia)上,結合(he)實際積(ji)累(lei)的業(ye)務經驗與客戶成(cheng)長規律,英博數科將客戶分成(cheng)大(da)致(zhi)三(san)類(lei),根據不同(tong)需求(qiu)提供符合(he)其(qi)發展(zhan)階(jie)段的定(ding)制(zhi)化內容:

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

1)戰略(lve)合(he)作伙(huo)伴,如百川智能、MiniMax等,在超大規模集群和數據資產方(fang)面開展(zhan)深(shen)入(ru)合(he)作;

2)成長性客戶,即仍需進(jin)行(xing)市(shi)場驗(yan)證的中型客戶群體,英博數科除了提(ti)供標準化戰略供應(ying)外,會努力幫(bang)助他們將模型產品推向(xiang)市(shi)場;

3)潛力(li)客(ke)戶,面向更廣泛的尚處在(zai)發展初期的企業,最大化降(jiang)低技術(shu)門檻(jian),提供靈活(huo)的付(fu)費選項(xiang)。

孟(meng)健雄談道,僅憑英博數科一己之力(li),難以全面涵蓋所有的客(ke)戶需求,因此(ci)英博數科愿意用(yong)開(kai)放的態度積(ji)極與更貼近客(ke)戶、了(le)解(jie)客(ke)戶需求的ISV服(fu)務(wu)商建立合作關系,將在明(ming)年開(kai)始(shi)推進其ISV服(fu)務(wu)商體(ti)系,即梧桐計劃(hua)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

經過深入(ru)研究,英博數科(ke)發現(xian)(xian)目前算(suan)力市場由賣方主導,這(zhe)滋(zi)生出一些問題,例如虛假的(de)算(suan)力供(gong)應、價格(ge)不透明且頻(pin)繁上(shang)漲,算(suan)力的(de)期貨活動(dong)缺乏違約的(de)懲罰條款等現(xian)(xian)象。

英(ying)博(bo)數(shu)科在(zai)設(she)計梧(wu)桐計劃時(shi)充分考慮到這些(xie)痛點(dian),同時(shi)利(li)用技(ji)術制度和金(jin)融工(gong)具(ju)來解決問題(ti),為(wei)英(ying)博(bo)數(shu)科的(de)服務商群體賦能:

第(di)一(yi),通過搏博云的(de)算力(li)聚合(he)串珠(zhu)成鏈(lian),撮合(he)零散的(de)算力(li),供給(gei)與(yu)需(xu)求端(duan)實現算力(li)的(de)彈性超售;

第二,通過(guo)遠期合約作為衍生品的工具,為買方(fang)對沖算力供(gong)應(ying)商違約的風(feng)險,為金融參與者創造機會,真正做到算力供(gong)應(ying)的可交(jiao)可產;

最后,利用搏博云算(suan)力供應的平臺優(you)勢,提供給客戶與中間商之間的交易擔保(bao)服務。

孟健雄舉例(li)說,一個年(nian)服務(wu)于(yu)大概15~20家中(zhong)小型客戶的服務(wu)商,通過算力服務(wu)費(fei)和(he)搏博云(yun)增值(zhi)服務(wu)費(fei)的銷售返(fan)傭,結合資源(yuan)鎖定工具,粗略計(ji)算每(mei)年(nian)可得到(dao)大幾十萬的毛利收入(ru)。

四、大模型占中國智算需求近6成,多家生態伙伴拆解落地實踐與算力挑戰

艾(ai)瑞(rui)咨詢在峰會期間發布《2023年中(zhong)(zhong)國智能(neng)計(ji)算中(zhong)(zhong)心行業(ye)發展(zhan)白皮(pi)書》。據(ju)(ju)艾(ai)瑞(rui)咨詢產業(ye)數字化研究院負責人徐樊磊分(fen)享,2023年中(zhong)(zhong)國智能(neng)算力(li)(li)需求中(zhong)(zhong),訓(xun)練占(zhan)(zhan)70%,推理(li)占(zhan)(zhan)30%;其中(zhong)(zhong)大(da)模(mo)型占(zhan)(zhan)據(ju)(ju)2023年中(zhong)(zhong)國智能(neng)算力(li)(li)總需求的58.8%,是智能(neng)算力(li)(li)的最大(da)需求方。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

通過分析(xi),他總結出(chu)了未來(lai)AGI時(shi)代的(de)創新解(jie)決方(fang)案:擁有足(zu)夠的(de)高(gao)端(duan)智(zhi)能算力和不(bu)斷優化(hua)的(de)軟硬件融合解(jie)決方(fang)案;可以構建生態匯聚(ju)上下游(you)、全鏈條、各領域的(de)參與者(zhe);不(bu)論(lun)是開發者(zhe)還是使用(yong)者(zhe),門檻都要足(zu)夠低(di)和便利。

隨后(hou),英博數科從算(suan)(suan)力服(fu)務、算(suan)(suan)法(fa)優化、場景數據模型使用等方面的全棧(zhan)生態服(fu)務客戶和用戶們分別進行了分享。

百川智(zhi)(zhi)(zhi)能是英(ying)(ying)博數(shu)科首(shou)個算(suan)力租賃(lin)和戰略客戶(hu),也(ye)是國內迄(qi)今為止算(suan)力云(yun)服(fu)(fu)務(wu)最大金額訂單購買者。本月初(chu),鴻(hong)博股份宣布(bu)英(ying)(ying)博數(shu)科于近期與(yu)百川智(zhi)(zhi)(zhi)能簽訂云(yun)服(fu)(fu)務(wu)協議(yi),未來三年向百川智(zhi)(zhi)(zhi)能提供協議(yi)約定規模的英(ying)(ying)偉達(da)智(zhi)(zhi)(zhi)算(suan)服(fu)(fu)務(wu)器所有的算(suan)力和資源以及(ji)配套(tao)軟件(jian)、應用以及(ji)技(ji)術服(fu)(fu)務(wu),交易(yi)總金額預計13.82億元(yuan)。

百川智能創(chuang)始(shi)人、CEO王小川現場分享了大(da)模(mo)型(xing)的發(fa)展與技術思考。他談(tan)道,今(jin)年是通用人工智能(AGI)元年,語言(yan)模(mo)型(xing)是AGI的起(qi)點。他相信大(da)模(mo)型(xing)帶來的行業(ye)賦能包括(kuo)三個(ge)分支(zhi):1)生(sheng)產力提升,通過(guo)提供數字員工幫助(zhu)企業(ye)更好地降本增效;2)智能助(zhu)理,打造私(si)(si)人醫(yi)生(sheng)、私(si)(si)人老師、私(si)(si)人律師等(deng)更多“專家”;3)開放(fang)世(shi)界,從做出情感陪(pei)伴角色走向創(chuang)造原創(chuang)劇情、構建虛擬世(shi)界,預計在娛(yu)樂(le)行業(ye)未(wei)來會(hui)有(you)巨大(da)發(fa)展。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

從技(ji)術角度來(lai)看,王(wang)小(xiao)川認為,大(da)(da)模型(xing)+搜(sou)索才能(neng)構成(cheng)完(wan)整技(ji)術棧,通過(guo)搜(sou)索經驗和能(neng)力(li)來(lai)助力(li)大(da)(da)模型(xing)研發,補齊大(da)(da)模型(xing)短(duan)板(ban),減少幻覺并優化時效性、安(an)全性。他(ta)希望與英博(bo)數科(ke)一起推(tui)動大(da)(da)模型(xing)行業(ye)的(de)發展,百川智能(neng)的(de)宗旨是幫(bang)助大(da)(da)眾輕松、普惠地(di)獲取(qu)世界知識和專業(ye)服務。

軟通智(zhi)慧CTO楊旭青分享(xiang)了(le)多(duo)模態大(da)模型在(zai)城(cheng)市(shi)治理場景中的(de)體系(xi)設計。在(zai)他看來(lai),光(guang)靠大(da)數據(ju)不(bu)足以解(jie)決讓城(cheng)市(shi)有智(zhi)慧的(de)問題,以前一個城(cheng)市(shi)構建(jian)了(le)一個擁有很(hen)多(duo)碎片式AI算(suan)法(fa)的(de)體系(xi),但把這(zhe)些算(suan)法(fa)管理起來(lai)、充分融合并不(bu)容易(yi),而大(da)模型本(ben)身的(de)泛化性使(shi)其能將各(ge)種實(shi)踐關聯起來(lai),大(da)大(da)提升算(suan)法(fa)及(ji)前端(duan)硬(ying)件使(shi)用率(lv)和準確率(lv)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

他提(ti)到很(hen)多(duo)大(da)模型(xing)應(ying)用面臨(lin)的問(wen)題(ti)是(shi)結(jie)合(he)城(cheng)市(shi)場(chang)(chang)景(jing)中的數據進行微調加再(zai)訓練,以及(ji)與Self-ASK和React等(deng)多(duo)種大(da)語(yu)言模型(xing)Agents技(ji)術(shu),才能真(zhen)正(zheng)服(fu)務于(yu)城(cheng)市(shi)場(chang)(chang)景(jing)。軟通智(zhi)慧近年來交付了(le)一(yi)批城(cheng)市(shi)級AI計(ji)算中心、多(duo)樣性算力中心相關(guan)成功(gong)案例,在建設(she)、運(yun)維、運(yun)營、使能服(fu)務等(deng)方面積累了(le)大(da)量經(jing)驗(yan)。不久(jiu)前,軟通智(zhi)慧聯合(he)華為發布城(cheng)市(shi)大(da)模型(xing)聯合(he)解決方案,深化(hua)了(le)智(zhi)慧應(ying)用和創新(xin)場(chang)(chang)景(jing)建設(she),通過探(tan)索(suo)超大(da)型(xing)城(cheng)市(shi)中心城(cheng)區治(zhi)理新(xin)路(lu),提(ti)升治(zhi)理體(ti)系(xi)和治(zhi)理能力現(xian)代化(hua)水平。

潞晨科技Colossal-AI云平臺負責人崔子源談道,AI大(da)模(mo)型(xing)(xing)面臨訓(xun)練(lian)耗時(shi)長(chang)、顯卡稀(xi)缺(que)且昂貴、開發和(he)運維(wei)人力(li)成本高(gao)等挑戰,Colossal-AI通過大(da)規模(mo)的大(da)模(mo)型(xing)(xing)異構內(nei)存(cun)優化和(he)管理(li)系(xi)統、高(gao)效的多(duo)維(wei)模(mo)型(xing)(xing)并行計算(suan)管理(li)系(xi)統、自(zi)研低延遲高(gao)吞吐推理(li)引擎等方案(an)來最大(da)限(xian)度(du)幫助(zhu)企(qi)業級AI大(da)模(mo)型(xing)(xing)降(jiang)本增效。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

其(qi)云服(fu)務(wu)提(ti)供了(le)大(da)(da)模型訓練、微調、推理、部署的(de)(de)(de)(de)能力(li),同時也提(ti)供了(le)多種(zhong)無代碼、低(di)代碼方式(shi),有助于大(da)(da)幅減少垂直企(qi)(qi)業(ye)領域招聘(pin)AI團隊的(de)(de)(de)(de)人力(li)成本。潞晨(chen)科(ke)技將(jiang)參(can)加英博數(shu)科(ke)的(de)(de)(de)(de)梧桐計劃,同時把Colossal-AIPaaS云平(ping)臺原生(sheng)融入到搏博云的(de)(de)(de)(de)生(sheng)態,和(he)(he)英博數(shu)科(ke)將(jiang)攜手進行大(da)(da)模型科(ke)技前沿(yan)和(he)(he)商業(ye)探索(suo),為更多的(de)(de)(de)(de)垂直領域的(de)(de)(de)(de)企(qi)(qi)業(ye)提(ti)供優質的(de)(de)(de)(de)大(da)(da)模型服(fu)務(wu)。

無(wu)問芯(xin)穹創始(shi)成員主要(yao)來自清華(hua)大(da)(da)學電(dian)子(zi)工程系。據無(wu)問芯(xin)穹聯合創始(shi)人、CEO夏(xia)立雪博士稱,共同構建(jian)一個大(da)(da)模(mo)型的(de)(de)生(sheng)(sheng)態,能夠(gou)(gou)進(jin)一步讓很多有自己想法(fa)的(de)(de)、一些好的(de)(de)創業者(zhe)和開發者(zhe),能夠(gou)(gou)更方便(bian)享受到更經濟更高效率的(de)(de)算力(li)應用。在未來的(de)(de)賽道(dao)競爭上,把“全棧生(sheng)(sheng)態服務平臺(tai)”打造好才(cai)能讓真正的(de)(de)中國的(de)(de)AI能夠(gou)(gou)騰(teng)飛起來。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

他(ta)談道,能(neng)(neng)效(xiao)(xiao)是衡量(liang)生(sheng)產(chan)力(li)(li)(li)和競爭力(li)(li)(li)的(de)測度,GPU可使用性不(bu)足(zu)、多(duo)元(yuan)異構GPU生(sheng)態(tai)分(fen)散、算(suan)力(li)(li)(li)/存儲/貸款不(bu)足(zu)等難(nan)題限制了(le)大模(mo)型落地的(de)極致能(neng)(neng)效(xiao)(xiao)。無問芯穹想要在多(duo)元(yuan)異構硬件和軟件模(mo)型生(sheng)態(tai)之(zhi)(zhi)間(jian)打造一個高度靈活、高兼容性的(de)中(zhong)間(jian)層(ceng),實現M x N的(de)高效(xiao)(xiao)統(tong)一部署(shu),最終能(neng)(neng)夠讓所(suo)有應用與算(suan)力(li)(li)(li)之(zhi)(zhi)間(jian)的(de)銜接(jie)又(you)快又(you)好。其(qi)“M x N”中(zhong)間(jian)層(ceng)產(chan)品中(zhong)最核心的(de)是Infini-ACC大模(mo)型計算(suan)優化(hua)引擎,該工具使得其(qi)很多(duo)模(mo)型、系統(tong)、硬件優化(hua)能(neng)(neng)力(li)(li)(li)可被(bei)自動加(jia)入研發(fa)工作中(zhong)。

五、布局AI+泛娛樂應用場景,成立北京·AI創新賦能中心技術委員會

在(zai)AI Tech Day上,由(you)英博數(shu)科牽頭的“AGI泛娛樂(le)聯盟”正(zheng)式啟動。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

愛(ai)奇藝AI基礎服務(wu)總監(jian)董峰分享(xiang)了愛(ai)奇藝的AIGC實踐。愛(ai)奇藝已經規模化地(di)將(jiang)AI技術與業務(wu)進行結合,基于文生文、文生圖、文生視(shi)頻等方案,有(you)兩大AIGC落地(di)方向:一是智能制作,涉及(ji)策略、制作、宣發;二是用戶體驗(yan),涉及(ji)播放、搜索、推薦、廣告。

AIGC賦(fu)能(neng)內容(rong)制(zhi)(zhi)作(zuo)(zuo)的整個(ge)生(sheng)命周(zhou)期涵蓋策劃、開發(fa)、制(zhi)(zhi)作(zuo)(zuo)、宣發(fa)四(si)個(ge)部分,設計(ji)語言(yan)表達、創意發(fa)散、美術設計(ji)等(deng)能(neng)力的運(yun)用(yong),具體應用(yong)案例有劇本小說評估(gu)、概念海報和前期設計(ji)、宣發(fa)視頻制(zhi)(zhi)作(zuo)(zuo)、包括(kuo)AI配(pei)音和藝(yi)人(ren)補錄對白在內的奇聲智能(neng)配(pei)音、衍生(sheng)品設計(ji)與同人(ren)創作(zuo)(zuo)、基于AI視頻理解和智能(neng)海報素(su)材(cai)的用(yong)戶(hu)增長宣發(fa)素(su)材(cai)、搜索(suo)體驗提升(sheng)、推薦素(su)材(cai)生(sheng)成和廣告素(su)材(cai)制(zhi)(zhi)作(zuo)(zuo)提升(sheng)、播放體驗提升(sheng)(本集(ji)看點、綠鏡功(gong)能(neng)升(sheng)級)等(deng)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

周韡韡說,從(cong)AI向AGI的(de)發展,需要跨學科(ke)的(de)深(shen)度融合,英博數(shu)科(ke)不僅(jin)要打造一個一站式服務的(de)生(sheng)態閉環,更(geng)要通過這(zhe)個生(sheng)態,匯聚中國乃至全球最(zui)頂尖(jian)的(de)技術伙伴,專注于尋找硬(ying)件側的(de)融合創新算(suan)力解決方案和軟件側的(de)數(shu)據、模(mo)型、算(suan)法優化(hua)提升方案,從(cong)而對(dui)現階段高端智(zhi)算(suan)設(she)備單一品(pin)牌路徑依賴的(de)問(wen)題實現突圍(wei)。

面向這(zhe)個目標,大(da)會(hui)現場成立(li)了北京·AI創新賦能(neng)中心技術委員會(hui)。

累計簽約超18億!國產AI算力黑馬戰略升級,曬大模型頂流朋友圈

北(bei)京(jing)·AI創新賦能中心由技術委(wei)員會領(ling)導,專(zhuan)注于尋找硬件側和算法側的解決方案(an),希(xi)望以此打(da)破(po)現階段(duan)高端AI訓練方面(mian)設備單一(yi)品牌路(lu)徑依賴(lai)的問(wen)題(ti)。技術委(wei)員將輪(lun)值擔任(ren)執行主席。

據介紹,超大型智算平臺可(ke)滿足目前頭部AGI開發(fa)(fa)者們的研發(fa)(fa)訴求,一方(fang)面提供算力供給,另一方(fang)面通過引(yin)入由汪(wang)玉教授、CCF中國計算機學會(hui)(hui)包括(kuo)國際知(zhi)名院校專(zhuan)家學者所組建的技術委員會(hui)(hui)進行(xing)硬件(jian)側(ce)融(rong)合創新(xin)、自主可(ke)控,算法側(ce)通過算子庫(ku)優化、模型壓縮等方(fang)式解決算力緊(jin)缺(que)問題(ti)。

大會基于北京·AI創新(xin)賦(fu)能中心合作計劃、搏博云數據服務(wu)合作簽約(yue)、搏博云開發(fa)者計劃簽約(yue)、商業(ye)代理梧桐計劃、大模(mo)型與(yu)算存解決方案實驗(yan)室合作計劃,與(yu)一眾國內(nei)人(ren)工智(zhi)能產(chan)業(ye)頭部企業(ye)共同成立(li)了生態聯盟。

結語:讓AGI在具體實踐中發揮出實際價值

英博數科與(yu)一眾生(sheng)態(tai)合作伙伴在(zai)這(zhe)場技術(shu)盛會上對前瞻性技術(shu)與(yu)前沿應用(yong)進行了(le)深度探討,輸出了(le)在(zai)大模型時代需要多少(shao)算力(li)、如何用(yong)好算力(li)、最佳算力(li)調(diao)度與(yu)調(diao)優方法等關鍵議題的獨到見(jian)解,為AI產業創(chuang)新發展思路提供了(le)參考。

作為AI算力板塊龍頭,英博數科判斷,推(tui)動場(chang)景(jing)落地、賦能產業(ye)發展,是決定AI能否在產業(ye)中發揮(hui)出更大價值的核心因素。在技術發展過程(cheng)中以算力為“養分”,讓應用去“生長”,不斷學習和優化,才(cai)能讓AGI在具體實踐中發揮(hui)出實際價值。

戰略升級后的(de)(de)(de)英(ying)(ying)博(bo)數(shu)科,在高速(su)增長的(de)(de)(de)算力(li)租賃收(shou)入(ru)之余,探路(lu)可能會以更(geng)快(kuai)速(su)的(de)(de)(de)增長和(he)更(geng)高的(de)(de)(de)利潤率逐步(bu)超(chao)越(yue)算力(li)租賃占(zhan)比的(de)(de)(de)生態(tai)和(he)服(fu)務未來(lai)帶(dai)來(lai)的(de)(de)(de)收(shou)入(ru),這(zhe)構建了(le)一個新的(de)(de)(de)樣板。英(ying)(ying)博(bo)數(shu)科選此次推出生態(tai)藍圖、建立(li)聯盟,是其(qi)戰略迭代升級關鍵的(de)(de)(de)一步(bu),其(qi)生態(tai)布局也將是未來(lai)能否穩固住AGI全棧服(fu)務商的(de)(de)(de)重要陣地。