
智東西(公眾號:zhidxcom)
作者 | 國仁 李水青
編輯 | 漠影
當下中國科技圈,什么(me)樣的創業公(gong)司(si)最吃(chi)香?或許是身(shen)處爆發的大模型賽道,占(zhan)據算力資源稀缺性,并獲(huo)得資本、市場(chang)及政策(ce)等多(duo)重青睞(lai),且(qie)有(you)著遠大AGI藍(lan)圖前景(jing)的公(gong)司(si)。
英博數科,就(jiu)是這樣的一(yi)家公司(si)。
從ChatGPT到Sora的(de)(de)爆火,智能算力成為(wei)一門公(gong)認的(de)(de)“好生(sheng)意”。盡管云巨頭(tou)相(xiang)繼推出誘(you)人(ren)的(de)(de)大模型訓推“全(quan)家桶”,但實際可用的(de)(de)算力仍是稀缺資源(yuan),國內(nei)AI企業紛(fen)紛(fen)患上“算力饑渴癥”……
成立不滿(man)21個月的英博數科(ke),成為(wei)了這(zhe)一(yi)背景下國內最吃香的“算力黑馬”之(zhi)一(yi)。
它是半年拿下近30億元人民幣算力大單的新貴,目前落地的智算集群100%滿載運行;它是大模型廠商的“香餑餑”,百川智能、MiniMax、深言科技等頭部大模型創企都涌入了其懷抱;它是“彩票大王”鴻博股份的全資子公司,踩著英偉達GPU算力紅利的順風,帶動鴻博股份股價在2023年最高飆漲580%……
英博數科的跨界突圍,離不開一位關鍵人物——鴻博股份副總裁、英博數科CEO周韡韡。
▲鴻博(bo)股(gu)份副總裁、英博(bo)數(shu)科(ke)CEO周韡韡
她曾是媒體人,擁有澳大利亞阿德萊德大學金融學學士、悉尼大學傳播學碩士、國際政治經濟關系博士學位,曾任澳視傳媒執行董事、澳中文化友好交流協會秘書長及36氪副總裁。2021年底,周韡韡開始帶隊進行智(zhi)算行業調研,當(dang)時就定下了“打造北京智(zhi)算中心樣(yang)板”的目(mu)標。
兩年(nian)(nian)之后(hou),隨著2023年(nian)(nian)大模型與AIGC掀(xian)起熱潮,將英偉達(da)推(tui)上萬億美元市(shi)值的(de)王座,周韡韡不僅提前(qian)達(da)成了兩年(nian)(nian)前(qian)立(li)下的(de)目(mu)標,還讓英博數科公司(si)拿下了國內(nei)最(zui)大資金規(gui)模的(de)算力服務(wu)協(xie)議,甚(shen)至(zhi)在最(zui)頂尖的(de)云巨頭口中奪食。
與此同時,關于“全棧式AGI生態服務平臺”的(de)新定位,也讓英(ying)博數(shu)科的(de)故事變得更有閃耀。英(ying)博數(shu)科被一些業內人士拿來與估值(zhi)達160億美元的(de)美國(guo)算力獨角獸CoreWeave比較,但在(zai)周韡(wei)韡(wei)看(kan)來,如果將目(mu)光放向“中(zhong)國(guo)版(ban)App Store+Hugging Face”,中(zhong)國(guo)同行(xing)的(de)價值(zhi)甚至(zhi)有望趕超CoreWeave。
從(cong)ChatGPT到Sora,周韡韡如何(he)穩踩智能算(suan)(suan)力市場的發(fa)展節奏(zou)點(dian)?從(cong)名(ming)不(bu)見經傳到產(chan)業(ye)(ye)新星,英博數科做對了什(shen)么(me),又踩了哪些坑?面向未來(lai),什(shen)么(me)樣的智能算(suan)(suan)力產(chan)業(ye)(ye)發(fa)展道路最適合中國?
近日,智東西(xi)總(zong)編(bian)國仁獨家對(dui)話周韡韡,試圖(tu)從(cong)個體視角,揭開“百模大戰(zhan)”混沌狂(kuang)歡(huan)之下(xia)的(de)智能算力產業真相。
▲鴻博股(gu)份副總裁、英博數科CEO周韡韡(左)與(yu)智東西(xi)總編(bian)國仁(右)
一、從Sora浪潮聊到產業趨勢:通用大模型為王,智算產業現隱形護城河
國仁:進入2024年以來,大模型領域爆點不斷,最讓您感到興奮的點是什么?
周韡韡:我感覺到興奮的點,是能給我帶來直接盈利收入的更多需求。
英博數科在2023年2月交付了國內第一個英偉達推薦架構、對外商業化運營的標準智算集群。以前這種集群都是存在于科研院校,外部的人很難接觸到。當智算集群建成時,我才發現這個設備的稀缺性是因為它沒有場景去釋放它的性價比。當時我就想,我的用戶是誰?我用戶在哪兒?用戶付不付得起這個錢?
OpenAI的闖入解決了我的問題。去年初OpenAI的ChatGPT出來之后,我們發現原來它(這些智算設備)是多模態大模型訓練的幾乎唯一選擇。今年2月Sora的出現,進一步讓大模型開發業內人士意識到差距和焦慮,使他們(men)對于超(chao)大型智算集(ji)群(qun)的需求變強,甚至愿意(yi)付出溢價的代價。
市場的這種反應,讓英博數科之前的商業規劃的預測得到了驗證。即使128的集群(qun)(qun)可以找(zhao)到(dao),但512的集群(qun)(qun)只有我有,那(nei)我自然就會有一個(ge)稀缺性,就等于價(jia)值。
國仁:Sora和去年ChatGPT的爆發節奏很像,您認為哪一個對智能算力產業的影響會更大?
周韡韡:我認為是ChatGPT,因(yin)為它是根基(ji)。AI行業的研(yan)究(jiu)已有(you)七(qi)八十年了(le)(le),但(dan)ChatGPT出(chu)現(xian)了(le)(le)之后,才讓(rang)大家覺(jue)得這(zhe)個(ge)技術跟我的生活工(gong)作是有(you)相關(guan)度的。蒸(zheng)汽機出(chu)現(xian)不算是工(gong)業革命,但(dan)是把蒸(zheng)汽機裝(zhuang)到了(le)(le)火車、輪船和各(ge)種生產工(gong)具上提(ti)高效(xiao)率,才是工(gong)業革命。
Sora其實就是讓我們看到了,把這種AI能力在一些細分場景上快速的實現。所以我覺得影響更大的肯定還是從根源上來講的。Sora本身的(de)體量非常小,但它的(de)出現(xian)(xian)對(dui)一(yi)些現(xian)(xian)象級的(de)熱門視頻應用降維(wei)打擊,連搶救(jiu)都(dou)不(bu)用了,帶來了產業上(shang)的(de)影響。
如果說過去我們對于“模型是做通用型還是做垂類型”這一問題還有分歧的話,到了這兒就完全沒有爭議了。Sora之所以能夠體量這么小,出現這么快,能力這么強,就是因為它的模型基座夠扎實。我一直管這種通用型模型的這種基座,叫“大G”。這個(ge)大G的架(jia)構決定了你可以“空(kong)中(zhong)起高樓”,從上往(wang)下改。
所以即便當時出現好多所謂的垂類應用,但在我們當初挑客戶的時候,只要你說是垂類的,我就不要。因為在我來看,你說做垂類就等于急功近利。我特別認可當時百川發布時(中國科學院院士、清華大學人工智能研究院院長、清華大學計算機系教授)張鈸院士講到的觀點:模型一定是通用的。
Sora帶來的可能是一個認知的統一,但ChatGPT是帶來了行業上的一個質變。
國仁:工信部最新數據顯示,我國超10億參數大模型已超100個。從結果來看,現在的智能算力供給是存在過剩和浪費還是遠遠不足?如果是過剩和浪費,產業要如何減少浪費?如果不足,缺口有多大?
周韡韡:如果單從英博數科的情況來看,我們現在可以提供的算力是“1”,那么我簽的客戶需求大概是“10~15”的樣子。這里面還讓一個難受點是,我并不能夠因為這種稀缺度去漲價。
從行業角度出發來看,一個好生意是給雙方都留下合理的利潤空間,你得考慮Sustainability(可持續性)的問題。GPU集群跟傳統的IDC機房不一樣——過去的IDC金租都按照三年回本的周期去計算,而GPU的回本周期要遠遠高于傳統的這個IDC機房。因為回本周期長,我當然希望我的客戶生存得也足夠久。所以雖然這個東西很稀缺,但你也要考慮到客戶的承受力,不能殺雞取卵。
國仁:按您這么說,應該是一個嚴重的供不應求的一個狀態?
周韡韡:超級嚴(yan)重供(gong)不(bu)應求。我看到好像華為(副董事長、輪值董事長、CFO )孟晚舟講到缺口比例,比我們這個要大得多。而且現在他們(大模型)發展的速度太快了,就像工信部所說的“10億參數規模”的模型,模型我們很難用模型大小去衡量它,尤其是模(mo)型參數值(zhi)現在變化(hua)也較快,你看(kan)到的小參數模(mo)型,它可能收斂做得比較好(hao),在整個訓練的過(guo)程里面(所需算力(li))是很大的。
國仁:算力(li)最后發展的(de)極限是什(shen)么?真(zhen)的(de)是無限地(di)去擴(kuo)大單位芯片的(de)算能嗎?
周韡韡:這一代的AI經常用一個詞:調校,它已經不走海量(堆算力)的路線了,而是走精準稀缺路線,而且它現(xian)在的(de)學習能力不(bu)用去拼(pin)量,而是拼(pin)質。
國仁:你也提到一個回本周期,咱們是怎樣考慮的?
周韡韡:英博數科最初并不是說只想做一個智算中心,它其實是一個抓手。有了這個抓手,我們可以接觸到頭部客戶及開發者。所以其實從一開始規劃的時候,我們就有一個考量——除了從算力上追求收益,也從對這個企業提供算力服務、生態服務、生態聯盟等方面獲取收(shou)益,這是一個綜合性的投(tou)資(zi)考量計劃。
國仁:那這塊進展怎么樣呢?
周韡韡:進展挺好。當然(ran)跟OpenAI平臺上(shang)來就幾(ji)千個(ge)伙伴的(de)(de)(de)差距(ju)很大。我(wo)(wo)(wo)所謂(wei)的(de)(de)(de)我(wo)(wo)(wo)們的(de)(de)(de)進展好,是我(wo)(wo)(wo)們從一開始的(de)(de)(de)時候給自己劃了四層,就是IaaS、PaaS、SaaS以及上(shang)層的(de)(de)(de)數據模型(xing)服務的(de)(de)(de)應(ying)用層。目前來看,我(wo)(wo)(wo)們這四個(ge)層級不(bu)能說齊(qi)頭并進,但基(ji)本上(shang)都是有顯(xian)著(zhu)的(de)(de)(de)里程碑的(de)(de)(de)進度。
國仁:從已有智算中心應用落地來看,哪些場景對智能算力服務的需求更大?訓練和推理各占多少?客戶采用智能算力的動力是什么?
周韡韡:從GPU側來講的話,目前算力使用最多的是多模態大模型訓練。這類需求團隊在我們的平臺上已經占到90%了,我們如果不克制它能占到(dao)100%。
但是要我們想稍微平衡一下。另外一部分是像類似于無問蒼穹、潞晨科技這種做算法加速層的,他(ta)們要(yao)去做(zuo)生態的兼容性、場景加(jia)速應(ying)用,這一類的客(ke)戶會比較多。然后像無(wu)人駕駛,曾經無(wu)人駕駛和生物醫藥是我認為占(zhan)比非常高的一個板(ban)塊。
國仁:現在發現沒有成為非常高的板塊?
周韡韡:無人駕駛是有(you)的(de)(de),但生物制藥(yao)現在還沒(mei)(mei)有(you)那么(me)多(duo),可(ke)(ke)能(neng)它的(de)(de)研發應用沒(mei)(mei)太跟(gen)得上(shang)AI的(de)(de)節奏,但是單體的(de)(de)需求會(hui)非常(chang)大。一個(ge)生物制藥(yao)如果(guo)去做原創(chuang)藥(yao)的(de)(de)研發,這(zhe)種AI制藥(yao)加速的(de)(de)的(de)(de)需求可(ke)(ke)以超過一個(ge)百(bai)川智能(neng)。
最初我們給自己定位AI有三個場景:高性能計算、推理和訓練。當時我們直接放棄了高性能計算和推理,專注做專業的AI多模態大模型訓練平臺。
現在來看,當我們的客戶有了應用,有了面對市場的服務之后,推理的需求肯定還是非常大的。但這需要一些合縱連橫來解(jie)決,因(yin)為推(tui)理包括(kuo)云(yun)端交付(fu)、邊緣側的(de)規劃布局(ju),不是(shi)我(wo)們一(yi)家能夠(gou)做(zuo)成的(de)事情。我(wo)們更傾向于去加入一(yi)個聯盟(meng),或者大家做(zuo)一(yi)些交換了(le)解(jie)。
國仁:您認為今年的我國“百模大戰”會進入什么階段?智能算力產業發展的節奏如何?
周韡韡:這是一個媒體典型的問題,就像回去十年TMT行業,包括O2O領域好像一直在戰斗。就我的觀點,不管是提供算力的服務商,還是大模型的競爭,“百模大戰”在今年底就會出現一個拐點。
應該說是該燃的就燃,該回點的就回點了。基本上這個分水嶺已經拉開了。我們現(xian)在已經可以看到有(you)很(hen)(hen)多的模型(xing)和應(ying)用(yong),或(huo)者是很(hen)(hen)明星式的創業者,實(shi)現(xian)了個人財富自由。但換(huan)成另(ling)外一句話來(lai)說,已經從大模型(xing)市(shi)場和大模型(xing)融資(zi)的市(shi)場上消(xiao)失了。
所以在今年(nian)的下半年(nian),我(wo)覺(jue)得(de)會(hui)有大批量這(zhe)種企業出現——失(shi)去客(ke)戶的算(suan)力(li)服(fu)務商,和用不(bu)了算(suan)力(li)、解決(jue)不(bu)了融資問題的大模型(xing)研發團隊——那只能面對(dui)現實。
國仁:我看過一個分析說,國內產業的一個特點是,遇到一個什么事兒大家都蜂擁上去,然后快速競爭和洗牌。這樣的好處是行業能夠快速走向成熟,但問題是會導致大量的資源浪費,比如共享單車就有很多廢棄的單車。
周韡韡:我覺(jue)得這(zhe)個是所有(you)的商業(ye)發展從古到(dao)今競爭(zheng)的一個必(bi)然結果(guo)。這(zhe)個是通用的,只(zhi)不過是有(you)人可能覺(jue)得好像國內的風氣更甚,其實是看(kan)行業(ye)吧(ba)?
有時候其實是資本方和研發者之間的一個相互博弈的過程。當市場上的熱錢都愿意投向一個方向的時候,逼得一批要求生的創業者往那個方向走。不管他自己具備不具備,或者是有多少的可能性能成,但是作為一個創業者,他最基本職業道德是生存,那自然(ran)就(jiu)會有(you)很(hen)多(duo)不(bu)適(shi)合的進入(ru)到這里面,然(ran)后被淘(tao)汰掉(diao)。很(hen)多(duo)時候(hou),資(zi)本市場起了(le)很(hen)大的掣肘或是助攻的作用。
國仁:國內創投現在比前幾年沒有那么猛的勢頭了,可能對創業的推動沒有之前那么熱情了?
周韡韡:我覺得是熱情的人少了,而不是不熱情,留下來的還挺激進的。你看現在大模型的估值真的快投不起了,比如百川從去年4月是王小川天使輪5000萬美金,然后到12月份投資已經是16億美金了,到現在已經接近30億美金了(這個跟很多科創板上市的這個公司的市值差不多了)。能夠撐得起這樣投資值估值的投資者,你能說他熱情退了嗎?我覺得沒退,我都覺得他瘋了。
國仁:回到咱們的定位,智能算力提供者是要繼續做好“賣鏟子”的人,還是需要去推動大模型落地應用?
周韡韡:我們從剛開始的專業訓練平臺、算力平臺,到去年12月份轉型做全棧式AGI生態服務平臺,這里面就包括了推動模型的落地。
比如說剛才說大G研發出來之后,在跟細分產業做結合的時候會出現問題:因為工程人員不可能了解每一個產業,他需要類似于產品經理的人幫他翻譯這個行業,做溝通的橋梁。比如我們之前有嘗試把有經驗的編劇,做網絡投放高效的投手對接給像Minimax、百川,把他們的商業模式大模型結合,就(強調)這種商業“攢局”的能力。
過去,他們(大模型客戶)剛開始淘金,我們去賣鏟子;現在他們進化了,我們應該是從鏟子進化到挖掘機,甚至是抽油的。
國仁:有人認為當下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能計算,說明算力產業技術門檻在降低,進入資源為王時代,對此您如何看待?
周韡韡:英博(bo)數科是(shi)(彩票大王)鴻博(bo)股份下一個全資子公司(si),是(shi)為了轉(zhuan)型(xing)做AI這個事(shi)情而生的。我覺得不管哪個產(chan)業,想(xiang)要去進入到另外一個產(chan)業,說明有更多人在看(kan)好(hao)這個產(chan)業。這說明AI算力(li)產(chan)業是(shi)被(bei)看(kan)好(hao)的。
我一(yi)直覺得要(yao)做窄(zhai)小深(shen)沉(chen)的(de)(de)事情,就(jiu)是說你一(yi)定是細分的(de)(de)賽道、大廠不(bu)干的(de)(de)、邊緣夾(jia)縫里(li)的(de)(de)、小團隊(dui)能(neng)運營(ying)的(de)(de),然(ran)后護城(cheng)河一(yi)定要(yao)深(shen)的(de)(de),而且(qie)它得能(neng)夠足夠長(chang)遠沉(chen)穩的(de)(de)發展,不(bu)能(neng)是一(yi)個幾(ji)天(tian)就(jiu)沒了的(de)(de)產業(ye)。AI剛好是這樣的(de)(de)一(yi)個產業(ye)。
如果說它(AI)入門的門檻低的話,只能說是剛開始的時候入門門檻的確是低的,這一點我承認。對于傳統企業來講,你花錢就可以買到硬件設備。但是現在看的話,我們發現它的這種隱形的護城河已經越來越高了。
現在參加一些活動,好像“萬卡集群”都不好意思提,都得說“十萬級”,這讓我瞬間感覺來了個科幻論壇。我覺得我們得面對現實:
首先我們得去承認混卡集群和同構在同一個物理空間內同一通訊集群,本質是完全不一樣的。你可以用云去把各種型號的混卡都交付出去,但這種算力是沒有辦法用于AGI多模態大模型的專業團隊研發的。他們要的是超大型集群,要的(de)是(shi)像OpenAI一樣(yang),6萬(wan)張卡能夠(gou)串(chuan)在一起去訓練的(de)集群。
我們現在國內的話,還沒有這種千卡萬卡的試驗田的土壤,而且集群的通訊是一加一小于二的,它有個通訊衰減的過程。所以這中間的調優、網絡通訊、系統性開發和管理,其實是一道隱形的、非常深的護城河。
我們整體缺乏GPU方面的專業人才,也缺乏對GPU的實驗土壤的了解。那這個時候英博數科其實占了一個先發優勢,反而是比別人多(duo)做了一些練(lian)習和試(shi)驗。
國仁:現在智算產業玩家大概分幾個梯隊,大家的做法又有一些什么樣的不一樣?
周韡韡:目前智算產(chan)業玩家(jia)一(yi)種是自產(chan)自銷的(de)大廠,它們(men)現在已經(jing)不對外提供(gong)GPU租(zu)用(yong)(yong)服務了,是完全(quan)是自用(yong)(yong)的(de)狀(zhuang)態,不提供(gong)市場化運(yun)營(ying)。
另一類是像我們這種市場化運(yun)營的(de)(de)服(fu)務商。國家現在鼓(gu)勵國企(qi)央企(qi)去進行計算基建的(de)(de)投資,運(yun)營交給類似于英博數科的(de)(de)市場化運(yun)營的(de)(de)公(gong)司(si)去做,這種模式在北京(jing)和上海已經先開始了。
還(huan)(huan)有(you)一類是設備還(huan)(huan)處(chu)在小(xiao)規(gui)模,還(huan)(huan)在尋(xun)找(zhao)客(ke)戶的(de)初(chu)期(qi)階(jie)段的(de)服務商。它們沒有(you)進入到128節(jie)點(dian)以上大集群,仍在16、32、64節(jie)點(dian)這(zhe)個階(jie)段里面發展的(de)一批智能(neng)算力玩(wan)家。
國仁:由于受制于芯片及算力上限,國內的智能算力格局的發展形態,會跟國外會呈現一個不同的態勢?
周韡韡:我覺得國內外面臨的情況差不多。因為首先英偉達芯片供應不足,它不是禁售或者是其他什么原因造成的。因為它的卡脖子問題還是被臺積電卡脖子,受限于產能。
二、從CoreWeave聊到創業心路:太刺激了,每天都在變,選擇做最難的事
國仁:用一句話形容一下創業近兩年來的感受,您最先想到的是什么?
周韡韡:太刺激了(le)。我們有工作人員來英博工作了三天之后就說:“太刺激了”,后來不止一個工作人員,這樣說,因為真的是變化特別快。包括政策上、技術方面、客戶需求的變化,在早上、中午、晚上都不一樣。
包括我自己發過好多次朋友圈,是我一個好閨蜜寫的一本書,說每個你看起來運氣好到開掛的姑娘,其實都在成功的路上努力到踉蹌。一路走來我們現在還不能叫成功,“三年魔咒”就是九死一生。現在進入到AI時代之后,它不光是一個降本增效,同時帶來的是每一個行業的全生命周期都在縮短。
國仁:您如何看待外界將英博數科比作“中國版CoreWeave”的說法?近期有消息稱CoreWeave估值或飆升至160億美元,主要是什么成就了CoreWeave?國內玩家有可能達到這樣的價值嗎?
周(zhou)韡韡:我(wo)之前也有看(kan)過把英博跟CoreWeave放一(yi)起做比較,我(wo)就覺得這個簡直太(tai)看(kan)得起我(wo)們了,絕(jue)對是一(yi)個超高級別的。
前幾天我看了一個摩根大通的報告,提到現有的GPU或專業高性能GPU的設備存量,CoreWeave在面占到了11%。11%的概念是什么?一些頂尖云大廠可能都是占1%不到,你可以想象到它體量有多大,幾乎是我們國內所有加在一起都難以達到一個體量。如果說GPU現在已經是這樣的一個(ge)有金融屬性的產品,CoreWeave有160億估(gu)值完全(quan)不奇怪。
然后第二個,CoreWeave團隊以前是做虛擬貨幣起家,所以對GPU接觸的熟悉的程度會比較早(zao)。然后(hou)它有英(ying)(ying)偉達(da)的(de)支持(chi),雖然英(ying)(ying)偉達(da)在(zai)中國本(ben)(ben)土(tu)和在(zai)美國本(ben)(ben)土(tu)都支持(chi),但能夠做的(de)范圍是相差非常(chang)遠(yuan)的(de)。
所以如果(guo)我們從(cong)硬件體(ti)量上去拼估(gu)值的話,短期內國(guo)內沒(mei)有玩家能(neng)夠比得起。
但是我們在走一條不一樣的路。CoreWeave還是主做算力出租,就是我拿更多的貨,賣更多的設備。而且國外的算力租用的價格售賣比國內貴很多。英博數科的定位是AGI全棧式的生態服務平臺。這聽起來有點抽象,換成具象一點的說法,就是我的客戶要什么我就提供,他缺算力我就給他算力,他要數據我就給他數據,他缺商業化轉換的場景我就去幫他找,幫他擬合這種場景。
這個東西就像互聯網時候,那個市場很大,但你收入只有三塊,就是游戲、廣告、用戶付費。我所有給客戶提供的各種各樣的服務,最終會變成是算力帶來的收入,比如說數據、模型、加速、PaaS層帶來的云收入,以及我給客戶提供的各種商業擬合創造,甚至投融資帶來的企業服務的收入,就是這三類收入。
如果從這個收入的組成上來看,它肯定比單一硬件的估值要來的高。從長遠來講的話,我覺得我們國內的這樣的一個生態發展模式的話,是可以產生更高估值的公司的。
國仁:2021年底您開始著手籌劃創業,定下的目標是打造北京智算中心樣板。當時為什么會有這樣一個明確具體的目標?有什么樣的契機?
周韡韡:這個目標是寫在合同里了,是跟投資方定的。英博數科前身發展是來自于北京AI創新賦能中心,英偉達一個(ge)(ge)針對中國(guo)的(de)生(sheng)態(tai)(tai)發(fa)展特別計劃(hua)而(er)來的(de)。這個(ge)(ge)計劃(hua)從2016年(nian)推出到現(xian)在一直有,我們看到的(de)時(shi)候已經(jing)是(shi)一個(ge)(ge)非常(chang)(chang)完整的(de)規劃(hua)了,合(he)作范圍(wei)不只是(shi)算力,更多是(shi)生(sheng)態(tai)(tai)發(fa)展以及合(he)作方(fang)式,還有發(fa)展目(mu)標最終(zhong)要達到什么(me)樣,都是(shi)有非常(chang)(chang)清晰的(de)定義的(de)。
國仁:決定創業之初,您對這項創業可能遇到的困難有充分的預判嗎?還記得哪些人給了你非常重要的意見,受用至今?從投資人到創業者,您為此做了哪些準備?
周韡韡:貴人好多。包括(百川智能創始人)王小川給了我們很多關于直接定位的指導建議,包括放棄HPC和推理場景,專注于做訓練,我們的第一批設備也是和百川一塊兒跟英偉達的遠程技術支持做的調通;還有張鈸院士非常清楚的告訴我們,所有的東西一定要回歸到加速生產力上,回歸本質,不能飄。然后一定要研究通用模型,打好基(ji)本功(gong),再(zai)去說做垂類場景的應(ying)用。
包括(御風集團董事長)馮侖,最近馮叔就特別強調說,你們一定要有世界觀、中國心、專業技術和本土功夫,對我說一定要做到企業不關門,個人不被抓,合規合法很重要;包括像我閨蜜在我做跨界轉型時不停給我鼓勵;我們家里一直有一句話,說“在不知道做哪件事兒的時候,去做那個最難的”。
國仁:英博數科創立至今經歷了哪些關鍵節點?
周韡韡:第一(yi)個關鍵節點,我記得是(shi)在2022年7月,當時正值我們計劃(hua)跟英偉達美國(guo)簽約,簽約卻(que)一天(tian)天(tian)被擱置。后來(lai)我們就(jiu)分析說這個(ge)跟佩洛西訪臺(tai)有關系(xi),中間如(ru)果要(yao)出現點(dian)什么摩擦,估計這個(ge)計劃(hua)合(he)作就(jiu)黃了。一直到(dao)佩洛西走了之后,第(di)二天(tian)合(he)同就(jiu)回(hui)來(lai)了。所以那個(ge)節(jie)點(dian)的話,我覺得就(jiu)是(shi)蝴蝶效應,國(guo)際局勢竟然(ran)牽扯到(dao)了我們一個(ge)很小的公(gong)司(si)的發(fa)展。
第二個節點是簽約之后,馬上就可能出來一個限售政策。在限售政策下,你在兩個都可選的情況下,英博數科是選擇拿A100還是A800?這就要戰(zhan)略(lve)性地思考限售政策(ce)會(hui)不會(hui)進一步收(shou)緊,還是(shi)有可(ke)能(neng)會(hui)緩(huan)和。如(ru)果緩(huan)和的(de)話,大(da)廠開始大(da)批量出(chu)錢去買貨的(de)話,我們該(gai)怎么面對(dui)這種沖擊(ji)?這個時候我們就在美國設了專業的(de)法務公關和商務團隊(dui),就各種政策(ce)去提前(qian)做分析,從而提前(qian)預判了禁售政策(ce)的(de)執行。
我們從第一批設備剛選完,就開始加速設備團購。當然這有賭的成分在,但我們堅信國內自研大模型的需求量一定很大,所以一定要抓緊囤貨。
然后再到最近,應該說我們面臨兩個挺大的節點。一個是我們的母公司上市公司被宣布為無實控,這個對我們變成了一個挑戰,畢竟還有很多事情需要得到母公司的授權和許可,就會造成一些決策的不暢,包括給你(ni)資(zi)金上帶來的(de)障礙。
一個是更貼近實際的一個難點,就是當我們有了512節點的設備,1024節點的設備,但是面對這樣4000卡、8000卡、近萬卡的集群的時候,我們怎么能讓它高效跑通?這個其實就是調優方面的一些問題了。現在市場也有這樣的公司,比如硅基流動CEO袁進輝老師做的研究,都是在這個方向。我們現在的做法就是讓大家都來吧,把我這兒當成一塊試驗田。
國仁:方便透露最新的團隊規模嗎?在組織架構方面,英博數科如何排兵布陣?有什么樣的人才計劃?
周韡韡:我們的規模不大,剛開始設備沒有到貨之前,我們只有幾個核心技術人員存在,以及一些面向公司籌備的行政、市場人員,那時是一個投行背景的(de)團隊。就像(xiang)我(wo)現(xian)在(zai)(zai)的(de)合(he)伙(huo)人邱領,是在(zai)(zai)美國(guo)硅(gui)谷銀行做(zuo)了三年(nian)(nian),之(zhi)后被(bei)派回(hui)中(zhong)國(guo)硅(gui)谷銀行工作三年(nian)(nian),負責(ze)過上(shang)(shang)百(bai)個(ge)初創型企業的(de)孵化(hua)加速。另外那時市場(chang)團隊里面大多(duo)是有(you)海外留學(xue)經驗(yan)的(de),包括我(wo)們現(xian)在(zai)(zai)在(zai)(zai)招(zhao)聘技術人員的(de)時候,也(ye)不見得一定要(yao)有(you)過實(shi)操經驗(yan),因為這個(ge)行業太(tai)新了,會更看重應(ying)聘者的(de)自驅(qu)學(xue)習能力和理解(jie)能力,以及在(zai)(zai)工作上(shang)(shang)面一專多(duo)能的(de)態(tai)度。
目前我們差不多快100人的樣子。技術團隊大概占到70%,技術團(tuan)隊(dui)其(qi)中也(ye)有一部(bu)分(fen)是做機房(fang)運(yun)營(ying)運(yun)維的,包括一些運(yun)維系統工程師(shi),然后(hou)另一部(bu)分(fen)是做(英博(bo)數科(ke)研(yan)發的GPU云(yun)管平(ping)臺)搏博(bo)云(yun)的研(yan)發。
國仁:團隊已經從金融背景完全變成技術主導的公司了?
周韡韡:我們是一個輕研發重集成的公(gong)司(si)。因為(wei)底層已經提供了大量的毛坯的東(dong)西,需要(yao)你像玩樂高一樣去搭積木(mu)了。
然后(hou)像我們現(xian)在(zai)的(de)早(zao)期(qi)的(de)這種(zhong)(zhong)投行團隊的(de)同學,在(zai)上(shang)市公司給(gei)我們帶來(lai)(lai)資金問(wen)題的(de)時候,就發揮出(chu)來(lai)(lai)了極大的(de)價(jia)值(zhi),通過一級二級市場各(ge)種(zhong)(zhong)融資方式(shi),幫公司解(jie)決(jue)現(xian)金流(liu)和發展問(wen)題。如果是(shi)(shi)只看現(xian)金流(liu)的(de)話,英(ying)博數科第一個月現(xian)金流(liu)就是(shi)(shi)正向的(de)。
三、從10億級大單聊到商業化之路:機器滿轉,交付體驗是新階段重點
國仁:去年,英博數科有三個項目最為矚目,分別是京能10億元智算中心項目、百川智能近14億元算力大單、MiniMax近3億元的大單,目前這三個項目算力的應用情況分別如何?機器使用率有多少?
周韡韡:首先這三個項目上統一的特點是,機器的使用率是都已經100%了。因為我們布局是(shi)一需求是(shi)十,沒有(you)任何設備是(shi)被閑置的。
國仁:對于目前英博數科落地的智能算力服務,您打多少分?為什么?
周韡韡:這個打分的話看怎么打,我是一個比較推崇鼓勵的。從行業角度來看,由于行業之前沒有GPU云,目(mu)前國內大(da)家(jia)都處(chu)在一(yi)個(ge)(ge)起(qi)步的階段(duan)。我(wo)(wo)可以(yi)自信(xin)一(yi)點(dian)說(shuo)我(wo)(wo)是(shi)100分,我(wo)(wo)也可以(yi)謙虛一(yi)點(dian)說(shuo),我(wo)(wo)和大(da)家(jia)差不(bu)多了解。因為大(da)家(jia)可能都還(huan)在去定義、優化(hua)、完善的一(yi)個(ge)(ge)階段(duan)。
而且在這個階段,我覺得現在國內的AGI的市場,跟那時候(此前互聯網)戰斗的市場不一樣,大家是一個競合的(de)市場,互(hu)相之間交流特別多(duo)。比(bi)如現在你經常可以看到頭(tou)部智譜AI的(de)唐杰(jie)老(lao)師或者張(zhang)鵬(peng)老(lao)師,跟百川(chuan)、Minimax的(de)CTO坐(zuo)在一起(qi),就一個(ge)問題直接在臺上爭起(qi)來了。但大家爭完(wan)之后,又是一個(ge)既競(jing)(jing)爭又合作(zuo)的(de)關系,不介(jie)意跟競(jing)(jing)爭對手(shou)分享踩坑(keng)經驗。
國仁:自部分智算中心算力啟用以來,產品目前的用戶使用情況如何?收到了什么樣的用戶反饋?這使得團隊的聚焦點有什么新調整和布局?
周韡韡:收到的客戶反饋應該說是投訴大于表揚。當然這個也不完全是英博數科造成的,也有本身原廠家造成。原廠家質量也是很成問題的一個事情,包括在壞了之后換修這種客觀上增添了一些困難,的確給我們在過去造成了不少投訴。對此,我們只能按照合同條款進行補償,大家遵守契約精神。但因為現在市場太稀缺了,所以客戶也給了我們很大的一個包容性。
接下來往下一步去走的話,我們更看重的第一個是GPU云平臺這個交付體驗的問題;第二個是GPU云平臺作為一個生態入口上面交易的活躍度的問題;第三個是我們跟很多家一起共同成立的算力創新賦能中心,對于融合替代創新解決方案的問題,我們不分AMD卡(ka)還是英偉(wei)達卡(ka),不分國產還是國內生態,我們只看大的AGI生態。
國仁:前面你也提到了,咱們團隊整體是重集成輕研發的布局,那么公司如何分配公司在硬件、軟件和服務層的資源投入?
周韡韡:沒(mei)有(you)刻意的(de)去側重,但是(shi)它天然造成(cheng)了一(yi)個(ge)(ge)占比分配。首(shou)先硬件(jian)(jian)一(yi)定(ding)是(shi)占比最大(da)的(de),第一(yi)個(ge)(ge)階段(duan)剛(gang)起步(bu)時,我(wo)們(men)90%的(de)錢都用在(zai)(zai)硬件(jian)(jian)上了。然后現在(zai)(zai),因(yin)為我(wo)們(men)有(you)了多(duo)(duo)種多(duo)(duo)樣的(de)硬件(jian)(jian)合作模式(shi),比如說新(xin)的(de)客戶來采購并委托給我(wo)們(men)代(dai)運營,這(zhe)種方(fang)式(shi)轉嫁了我(wo)的(de)采購和折舊成(cheng)本(ben),那這(zhe)方(fang)面(mian)投入(ru)(ru)就會逐步(bu)降低(di)。這(zhe)個(ge)(ge)階段(duan)我(wo)們(men)在(zai)(zai)做云研發(fa),在(zai)(zai)做運維工程師的(de)培訓(xun),在(zai)(zai)整個(ge)(ge)生態拓展的(de)引入(ru)(ru)方(fang)面(mian)投入(ru)(ru)也(ye)好,收入(ru)(ru)也(ye)好,就會逐步(bu)的(de)增加(jia)。
國仁:在去年跟您聊的時候,您提到英博數科跑贏同行的主要優勢是“有算力”。但存量算力是有限的,英博數科這一優勢能保持多久?如何保持?
周韡韡:我覺得這到最后就是結果決定關系,我(wo)們看一(yi)個結(jie)果就(jiu)可以了。不(bu)管今天說(shuo)你是(shi)有(you)算力還是(shi)沒(mei)算力,能(neng)干(gan)還是(shi)不(bu)能(neng)干(gan),結(jie)果是(shi)你有(you)沒(mei)有(you)客戶,你的(de)客戶有(you)沒(mei)有(you)變多(duo)。那從這個角度上來講,英博以前的(de)老客戶仍然(ran)存(cun)在,新的(de)客戶不(bu)斷(duan)進(jin)來,我(wo)覺得這個就(jiu)已經說(shuo)明(ming)了我(wo)們的(de)所有(you)能(neng)力。
國仁:您之前談到“英偉達幾乎是提供算力硬件的最佳選擇”,這是不是意味著英博數科不太會去考慮國產硬件?
周韡韡:會,我(wo)們(men)現(xian)在一(yi)直在嘗(chang)試。我(wo)們(men)去嘗(chang)試了很多(duo)種,不只是國(guo)產,像非常早(zao)的時候(hou)AMD的卡還沒有做限(xian)售通(tong)知(zhi)的時候(hou),就(jiu)提(ti)供給我(wo)們(men)了。我(wo)們(men)做過(guo)AMD的,也試過(guo)海(hai)光的,然后(hou)我(wo)們(men)也通(tong)過(guo)跟合作方(fang)像百川智(zhi)能和智(zhi)源研(yan)究院這種去看過(guo)華為昇(sheng)騰、寒武紀這些(xie)。包(bao)括(kuo)我(wo)們(men)跟軟通(tong)、華鯤這邊的溝通(tong)都非常頻(pin)繁。
而(er)且當我們的(de)(de)客戶發展到一定階段,推理的(de)(de)需(xu)求一定會(hui)上漲。那(nei)這(zhe)(zhe)個(ge)(ge)時候就會(hui)有大量的(de)(de)國產算力(li)去填補這(zhe)(zhe)個(ge)(ge)市場的(de)(de),這(zhe)(zhe)跟(gen)英偉達(da)的(de)(de)合作是不(bu)沖(chong)突(tu)的(de)(de)。
國仁:在英博數科的規劃中,公司要跟英偉達學生態做中國版App Store+Hugging Face。為什么不延用英偉達的生態,或延用其他云巨頭的生態?
周韡韡:這個其實回到我們剛開始第一個問題,跟討論CoreWeave有點類似了。英偉達的成功使我們看到了生態的價值。但是在哪里去發展這個生態,用什么樣的方式發展,是要結合我們自己的情況。這就有個“橘生淮南還是淮北”的(de)問題了。我(wo)們是存(cun)在著硬件(jian)軟件(jian)各(ge)方面先天性(xing)受限的(de),在這種情況下(xia),我(wo)們要想發展生態,首(shou)先你得(de)有足夠的(de)基數人群(qun)。
這就解釋了我們為什么那么看重像Hugging Face模式。因為他適不適合做這一行,你得先讓他看到這一行。你要為這個產業考慮,只有加入進來的人越多,你才在有可能在以后賺得更多。其實國內是完全具備這個條件,包括我們也看到阿里云的魔塔社區,也是在走這個方向。我們必須去找更多的人進來加入,才能去找到更多的可能性。
然后像App Store這種方式,我們主要強調是它對于我們平臺在未來的一種盈利的模式。就(jiu)比如說(shuo)現在蘋果(guo)它其(qi)實是硬件(jian)賺錢,但(dan)是它的App Store毛利更高,幾(ji)乎收入接近于毛利。
所(suo)以我們未來給(gei)自己(ji)的一(yi)個目標和盈利模式的定位(wei),就是我剛才所(suo)謂的云收入,我們的企業服務收入。
國仁:英博數科有哪些獲利模型?方便透露英博數科的盈利情況嗎?
周韡韡:鴻博股份去年的年報做了扭虧的預告,這個扭虧主要是來自于英博數科。實事求是地說,目前收入來源仍是以算力服務為主,此(ci)外,我們(men)也(ye)跟(gen)京能合作共(gong)建算力中心項目,在2023年底,這一(yi)部分收入貢獻較大。但是(shi)在未來(lai)(lai)的話,智算中心的運營服務(wu)(wu)也(ye)會是(shi)一(yi)個重要收入來(lai)(lai)源。然(ran)后像隨著云業務(wu)(wu)、數(shu)據業務(wu)(wu)一(yi)點點起來(lai)(lai),還有具體應用場景撮合,這些服務(wu)(wu)收入肯定是(shi)要越(yue)(yue)來(lai)(lai)越(yue)(yue)高的。
國仁:那如果要拓展這些創新服務,咱們的銷售體系架構就不一樣了?
周韡韡:實話實說,我們現在沒有(主動)銷售。因為我們不需要靠銷售,反而需要挑客戶,因為我們沒有東西可賣。那我們(men)的(de)(de)這(zhe)個(ge)商(shang)務(wu)團隊(dui)是在(zai)干嘛呢?他(ta)們(men)在(zai)去尋找(zhao)(zhao)生態合作伙伴,就是找(zhao)(zhao)一(yi)些(xie)想要在(zai)當地開(kai)展AI業務(wu)的(de)(de)項(xiang)目,以算力或者是資金的(de)(de)形式去扶(fu)植(zhi)加速他(ta)們(men)的(de)(de)發展。
國仁:公司接下來有什么重要新品要發布,有什么樣的時間表可以公布嗎?
周韡韡:我們去年(nian)做了一(yi)個AI Tech Day的活(huo)動(dong),今(jin)年(nian)會把(ba)這個活(huo)動(dong)延續(xu)下(xia)來。
一方面,是會發布我們自己的產品和解決方案,但是以后占的比例肯定會越來越少了。我們自己產品解決方案主要是集中在搏博云的進展,還有大型集群通訊到了哪個階(jie)段,這方(fang)面的(de)一些(xie)討論。
另一方面,我們最主要的是想給客戶創造一個展示自己的平臺。應該說是(shi)會有更多(duo)的客戶(hu),不(bu)管(guan)是(shi)競品之間的交流,還是(shi)已經有的垂類(lei)應用,在過(guo)去已經產(chan)生的這種(zhong)貢獻和作用。類(lei)似于算力接入各種(zhong)生產(chan)力的場景,也是(shi)我(wo)們以后想在本(ben)次中國生成(cheng)式AI大會活(huo)動中展現出來的。