智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影

智東(dong)西11月4日報道，集成(cheng)高(gao)算力與大模(mo)型(xing)的AI一體機，憑借開箱即(ji)用、降低使用門檻(jian)、減(jian)少試(shi)錯(cuo)成(cheng)本(ben)、無數據泄露風險等優勢，正成(cheng)為越來越多(duo)企(qi)業實現大模(mo)型(xing)輕(qing)量化(hua)落(luo)地的“新寵”。

圍繞惠普與星環科技(ji)在今年5月(yue)合(he)作推出的一系列一站式“開箱即用”的Z系列AI一體機，近日，惠普個(ge)人信息產品(pin)部高級(ji)計算與(yu)解決方案產品(pin)部總經理徐鳴、星環(huan)科(ke)技聯合創始(shi)人兼副總裁朱(zhu)珺辰與(yu)智東西等少數媒體進行了深入交流。

惠普Z系列大模型服務平臺AI一體機基于惠普(pu)Z系列AI工作站，適(shi)配并搭(da)載了星環的(de)(de)Sophon LLMops大(da)模(mo)型(xing)開(kai)發(fa)管理(li)(li)平(ping)臺，可提供(gong)主流大(da)模(mo)型(xing)的(de)(de)一鍵上架(jia)和(he)高性能(neng)部署推理(li)(li)，還能(neng)預裝標準(zhun)的(de)(de)大(da)模(mo)型(xing)場景應(ying)用，實(shi)現開(kai)箱即用，并通過在企業(ye)內部私有化部署，能(neng)夠(gou)保(bao)證企業(ye)隱私數據安(an)全。企業(ye)可以根據自身訓練或推理(li)(li)需求(qiu)，自由選配芯(xin)片及內存(cun)，快速(su)體驗高效便捷的(de)(de)大(da)模(mo)型(xing)開(kai)發(fa)和(he)應(ying)用全流程能(neng)力。

朱珺(jun)辰談道，星環科技正將定(ding)位從(cong)數據基礎設施(shi)（Data Infra）延伸到AI基礎設施(shi)（AI Infra），在與中小企業合(he)作(zuo)過程中，發現(xian)較多企業在意投入產出比，需要(yao)一個有價(jia)值的(de)大模(mo)型(xing)應用、一個整(zheng)體的(de)解決方案，例如底層(ceng)有惠普AI工作(zuo)站、上(shang)層(ceng)有將大模(mo)型(xing)與數據庫結合(he)的(de)能力。

雙方合力(li)打造的AI一體機(ji)，不(bu)僅有硬件、軟件，還有針對(dui)用戶(hu)應(ying)用場(chang)景提(ti)供的相應(ying)方案(an)，無論客戶(hu)的業(ye)務問題是什么，惠普和星環都有對(dui)應(ying)的咨(zi)詢、調優等(deng)相關服務來幫助(zhu)解決。

一、AI一體機：靈活配置算力與算法，針對性解決業務問題

對于企業(ye)來說，惠普和星環科技合作打造的大模型服(fu)務平臺一(yi)體機具備如下(xia)優勢：

一是可根據行業和客戶需求，提供一些定制化配置。徐鳴談道，當前不可能用一個通用大模型覆蓋所有行業的需求，很多企業需要一個輕量化、低延時、沒有斷網問題、安全自主可控、可本地管理、規模較小的垂類大模型。星環的產品有很多客制化模塊和算法，惠普的產品線覆蓋臺式PC、移動PC等不同類型，從而能夠向客戶提供充分的選項來匹配相應的算力和算法。

二是提供便捷高效的大模型開發與應用工具。惠普提供的高規格、高性能AI算力平臺，結合星環大模型開發管理平臺Sophon LLMOps的產品能力，該一體機可提供包括語料知識精細化處理入庫、提示詞開發、語料數據標注、大模型微調訓練、大模型評估部署到大模型應用構建和應用部署上線的全鏈路工具能力。

三是保障數據安全穩定。一體機支持在企業內部的私有化部署，確保將企業機密數據留在本地。惠普Z系列嚴選企業級部件經過360,000小時嚴苛測驗，能確保平臺在長時間連續高負載運算環境下的整機兼容性和穩定性，為企業的數據安全和研發工作保駕護航。

四是降低成本。據朱珺辰分享，從持續投入的角度來衡量，選擇云上大模型的綜合成本相對較高，需要自己找對應的服務廠商、做投入和調優，投入產出不對等。徐鳴補充道，無論是提升每個員工的生產效率，還是減少企業要投入的成本，都有助于企業降本增效。

朱(zhu)珺(jun)辰解釋說，不同(tong)客(ke)戶的需(xu)求不同(tong)。一些(xie)客(ke)戶看重投入產(chan)出(chu)比，會考量預算、數據安全性(xing)等(deng)問題(ti)，需(xu)要能解決具體業(ye)務問題(ti)的大模型(xing)。

比(bi)如在(zai)企業合同審核應(ying)用(yong)中，企業可以通(tong)過自己控制數據、結合大模型應(ying)用(yong)來替代(dai)以前的人工手段，使用(yong)開(kai)箱即(ji)用(yong)的工作站，將審核流程(cheng)智能化，通(tong)過參(can)考直觀(guan)的投(tou)入產出(chu)評估，更(geng)快更(geng)好地做出(chu)決策，大幅提升企業經(jing)營效果。

除(chu)了(le)大(da)模型(xing)外(wai)(wai)，企業內部數據知識(shi)庫的(de)(de)構(gou)建(jian)是必要的(de)(de)。企業關注安全性和準(zhun)確性，不可(ke)能將所(suo)有(you)(you)數據都用于(yu)訓練模型(xing)，因此(ci)還需要RAG技術(shu)來外(wai)(wai)置一個單獨的(de)(de)存儲系統、對企業中(zhong)的(de)(de)私密數據做知識(shi)庫構(gou)建(jian)。這(zhe)正(zheng)是星環(huan)(huan)所(suo)擅長的(de)(de)，星環(huan)(huan)的(de)(de)很多技術(shu)可(ke)將部分信息有(you)(you)效(xiao)地自動化處(chu)理和構(gou)建(jian)，再結合大(da)模型(xing)技術(shu)，使回答有(you)(you)據可(ke)依、更加準(zhun)確。

二、籌備兩年，共同驗證，幫客戶繞過軟硬件試錯階段

據(ju)徐鳴分享，工(gong)作站是PC（個(ge)人計(ji)算機）的一個(ge)變種(zhong)，可以理解成(cheng)一個(ge)性能強勁的PC，具(ju)有高度客戶定制化屬性，根(gen)據(ju)需求會進行不同配置的排列(lie)組合，內存能做(zuo)到(dao)1TB、2TB乃至更高。業內第一款真(zhen)正意義(yi)上的工(gong)作站就是惠(hui)普做(zuo)的。

與(yu)普通PC不同的(de)是，工作站(zhan)必(bi)須與(yu)行(xing)業軟(ruan)件適配，做大量的(de)ISV（獨立軟(ruan)件開發商）認證(zheng)。惠(hui)普Z系列工作站(zhan)通過了(le)21000+ ISV軟(ruan)硬件組合認證(zheng)。徐鳴說(shuo)，基于這(zhe)些經驗(yan)和知識的(de)積累，惠(hui)普了(le)解(jie)什(shen)么行(xing)業的(de)客戶在某(mou)個場景中更適合使用什(shen)么樣的(de)配置、怎(zen)樣獲(huo)得最優性價比。

惠普(pu)提出“AI即服務(wu)（AI as a Service）”，與星環科技一起在了解客戶需(xu)求后，通過共同驗證和適配軟硬件組(zu)合、迭代優化(hua)算法，結合用戶的(de)業務(wu)使用場(chang)景，做出一個客制化(hua)的(de)產(chan)品。

朱珺(jun)辰說，星環科技的定(ding)位在基礎軟件(jian)領域，有(you)超過1500家終端客(ke)戶(hu)，很多客(ke)戶(hu)都在思考如何(he)將大模(mo)型(xing)技術運用(yong)到經營(ying)業(ye)務中。

徐鳴談道(dao)，惠普之所以與(yu)星(xing)環(huan)科(ke)技達成合作，既是因(yin)為雙方有相(xiang)近的B端(duan)企業(ye)(ye)客(ke)戶群體，而且客(ke)戶都存(cun)在AI轉型(xing)的想法和(he)動機(ji)，又是因(yin)為惠普的產(chan)品硬件和(he)算力(li)能與(yu)星(xing)環(huan)的算法形成強強聯合，給(gei)客(ke)戶和(he)行業(ye)(ye)帶來不一樣的化學反應。

據他(ta)回顧，在(zai)今年(nian)5月(yue)正式發布AI一體(ti)機前，惠普與(yu)星環(huan)(huan)的(de)合作籌(chou)備時間長達兩年(nian)。惠普主負責(ze)硬件設計，星環(huan)(huan)則充分參與(yu)了(le)適配調優，并(bing)會提供諸如某個(ge)產(chan)品線所需硬件配置(zhi)之類(lei)的(de)建議。雙方在(zai)方案審核、產(chan)品審核、開拓(tuo)客戶等方面做了(le)很多(duo)共創的(de)事，不斷有項目(mu)進入落地階段。

他分享說(shuo)，惠普根(gen)植中國超過40年，秉承著“在中國，為中國”的(de)(de)理念，希望(wang)和(he)星(xing)環(huan)等領先的(de)(de)合(he)作伙伴攜手提(ti)供好(hao)的(de)(de)方案和(he)服(fu)務，幫中國行業客戶解決實際需要(yao)解決的(de)(de)問題。

在中國，惠普建立了完(wan)整(zheng)的(de)(de)服務體系，第一步幫助客戶評估和(he)判斷需(xu)要什么樣(yang)的(de)(de)模型、多少資金和(he)時(shi)(shi)間，以及評估預計效果(guo)，還會考量后(hou)期(qi)維護成本、哪(na)些企業(ye)能做(zuo)模型進一步訓練、如何規(gui)劃(hua)產品迭代(dai)等，此時(shi)(shi)星(xing)環的(de)(de)優勢就體現出來。

據透露(lu)，雙(shuang)方最近跟(gen)一家央(yang)企(qi)共同簽約了戰略(lve)合作(zuo)協議，成(cheng)為其(qi)IT合作(zuo)伙伴。這家央(yang)企(qi)想建一個自(zi)有知識庫(ku)，希望將自(zi)家數據進行深度(du)學習后，能更(geng)好地解讀歷史(shi)經(jing)營數據。惠普和星環一起(qi)討論做方案，為其(qi)選擇合適的模型、硬件配(pei)置(zhi)、部(bu)署方式及成(cheng)效時間。

在中后端，惠普和星環(huan)會在模型維護、企業內部人(ren)員培訓等方面做好配(pei)合，幫助客戶繞過軟硬件試錯階段，直接服務于客戶需求(qiu)。

在徐鳴看來，用(yong)好(hao)AI很(hen)具有挑戰性。首(shou)先需要(yao)(yao)輔導客戶如何把AI知識(shi)庫匹配，把數據向量化地導入模型(xing)后訓(xun)練；還要(yao)(yao)告訴用(yong)戶AI怎么用(yong)的效果(guo)(guo)是最好(hao)的。如何做好(hao)問題(ti)的銜接，慢慢導入用(yong)戶想(xiang)要(yao)(yao)的結果(guo)(guo)，也是對AI另一種(zhong)程度上的訓(xun)練。

如果(guo)發現一(yi)直達不到預(yu)期效果(guo)，或(huo)者結果(guo)精度跟期待的需求(qiu)是有差別，惠普(pu)和星環科技會幫客戶做整(zheng)體優化。

三、模(mo)型不是越大越好(hao)，垂類大模(mo)型才(cai)能有效解決業務問題

AI浪潮(chao)正推動工作站的(de)算(suan)力(li)越來越強、產品配置不斷升級和趨(qu)于多元化，給用戶(hu)更(geng)多的(de)選擇。相應的(de)使用場景也(ye)在(zai)愈(yu)發豐富。

徐鳴提到(dao)AI PC發展至(zhi)今(jin)，業界對(dui)移動化、輕量化的需(xu)求逐漸擴大。星環科技還做(zuo)了很多努力，比如在(zai)原來基(ji)于塔式工(gong)作(zuo)(zuo)站的幾千TOPS產(chan)品上(shang)做(zuo)一些預訓練(lian)大模型，針(zhen)對(dui)惠普(pu)移動工(gong)作(zuo)(zuo)站能做(zuo)到(dao)300TOPS，通過NPU做(zuo)到(dao)45TOPS左(zuo)右。

在朱珺(jun)辰看來(lai)，模型不是越(yue)大越(yue)好(hao)，而是用合(he)適(shi)方式解決問題。

通(tong)(tong)用大模型(xing)不是(shi)針(zhen)對行業(ye)或應(ying)用場景(jing)特(te)征來專(zhuan)門做(zuo)訓練，當前還無(wu)法做(zuo)到(dao)行行專(zhuan)精，需(xu)要基于一些特(te)定數據對大模型(xing)做(zuo)調整，包括通(tong)(tong)過將大小模型(xing)結合，來達到(dao)一些業(ye)務效果。

將垂類大(da)(da)模型(xing)結合企(qi)業(ye)(ye)內部核(he)心數(shu)據知識庫(ku)，可能是(shi)企(qi)業(ye)(ye)把大(da)(da)模型(xing)技術快速(su)應用(yong)到(dao)實際業(ye)(ye)務中(zhong)的一種有效落地方式。

面(mian)向To B市場(chang)，星環提供領域大(da)模型(xing)，結合企業(ye)各種數據處(chu)理能(neng)(neng)力，包括企業(ye)內部(bu)的(de)一(yi)些核心數據、對模型(xing)的(de)優化、與(yu)小模型(xing)結合，能(neng)(neng)幫(bang)企業(ye)快速構建一(yi)個大(da)模型(xing)應用(yong)的(de)場(chang)景或能(neng)(neng)力。

惠普與星環還(huan)做了一(yi)些封裝(zhuang)完大(da)概(gai)只(zhi)有(you)7GB、8GB的本地(di)(di)端小(xiao)模(mo)型，將原來可能(neng)將客戶限定在辦公(gong)桌前的大(da)模(mo)型應用(yong)變(bian)成了能(neng)在任何地(di)(di)方(fang)使用(yong)的高效工具(ju)。

結語：軟硬一體化，為企業搭建高效的AI大模型生產力平臺

算(suan)(suan)力是企業(ye)數(shu)智化(hua)轉型(xing)升(sheng)級過(guo)程中的(de)核心要素。惠普(pu)Z系(xi)列(lie)工(gong)作站(zhan)用(yong)高性能AI算(suan)(suan)力硬件(jian)平(ping)臺來滿(man)足(zu)企業(ye)對高效處理數(shu)據和開(kai)發大模型(xing)的(de)需求，在此之(zhi)上部署的(de)星環科技平(ping)臺，則通過(guo)提供全流(liu)程工(gong)具，幫助企業(ye)更(geng)好地解(jie)決實際業(ye)務問題。這也成為了惠普(pu)將創新AI產(chan)品與本土(tu)生(sheng)態融合的(de)又(you)一個(ge)樣本。

據徐鳴分(fen)享，惠普(pu)內部在用(yong)一(yi)套星環(huan)的(de)(de)(de)私有化部署的(de)(de)(de)大模(mo)型，搭配一(yi)臺比較高配的(de)(de)(de)工作站，灌入了惠普(pu)整個(ge)產品庫中的(de)(de)(de)白皮書(shu)數據。有了這樣一(yi)個(ge)模(mo)型，惠普(pu)銷售(shou)人員只要進入內網，就能用(yong)星環(huan)大模(mo)型獲得產品相關問題的(de)(de)(de)答案。惠普(pu)也將自身實際(ji)使(shi)用(yong)中的(de)(de)(de)一(yi)些感受和看到的(de)(de)(de)問題，第(di)一(yi)時間向(xiang)星環(huan)做反(fan)饋，共同優化。

朱珺辰相(xiang)信(xin)，AI跟(gen)硬件(jian)的結合(he)會帶來(lai)很(hen)多根本性的改變，如今(jin)星(xing)環軟(ruan)件(jian)與(yu)惠普(pu)硬件(jian)一(yi)體(ti)化(hua)的方式只是(shi)其中一(yi)個很(hen)小的部(bu)分，基于AI技術的機(ji)器(qi)人(ren)預(yu)計將在五年(nian)內取得較顯(xian)著的發展。他(ta)希望通過(guo)對一(yi)體(ti)機(ji)持續(xu)迭代，不(bu)斷降低開箱即用的門檻，提(ti)升對數據處理的能力，使大模(mo)型(xing)應用能夠更好地回答客戶(hu)的問題。