智東西（公眾號：zhidxcom）
作者 | 香草
編輯 | 李水青
生成式AI如(ru)何以(yi)開源的方式進入企業？
智(zhi)東西6月(yue)13日報道，今日，國際開源(yuan)大廠紅帽(mao)在(zai)媒(mei)體溝通(tong)會上(shang)分享了在(zai)AI發(fa)展路線之爭上(shang)紅帽(mao)的觀點，并詳細介紹了其上(shang)個月(yue)發(fa)布的AI方案，以及在(zai)國內的重要發(fa)展策略與舉措。
在AI發展路線上，紅(hong)帽主要的(de)(de)(de)觀點是堅持開源和(he)混(hun)(hun)合。針對企業(ye)實施AI創新面臨的(de)(de)(de)六大挑戰(zhan)，紅(hong)帽提供一套三步走的(de)(de)(de)端(duan)到(dao)端(duan)AI平臺和(he)路徑，跨(kua)混(hun)(hun)合云加速AI在企業(ye)中的(de)(de)(de)應(ying)用。
在國內的(de)發展策略上，紅帽將配(pei)合國家戰略，加(jia)(jia)速(su)企業(ye)智(zhi)能制(zhi)造升級，同時(shi)賦能與融(rong)合國內AI生態，加(jia)(jia)速(su)AI在全(quan)行業(ye)的(de)應用。
分享會后，紅(hong)帽全(quan)球副總裁兼(jian)大中(zhong)華(hua)區(qu)總裁曹衡(heng)康、紅(hong)帽大中(zhong)華(hua)區(qu)資深市場總監趙文斌、紅(hong)帽大中(zhong)華(hua)區(qu)解決(jue)方案架構(gou)部高(gao)級(ji)總監王慧(hui)慧(hui)、紅(hong)帽中(zhong)國首(shou)席架構(gou)師張家駒(ju)與智東(dong)西(xi)等少數(shu)媒(mei)體進行(xing)了深入交流(liu)。
談(tan)到(dao)算(suan)力(li)目前受到(dao)極高(gao)的關(guan)注(zhu)度(du)，曹(cao)衡康談(tan)道，算(suan)力(li)只是短期的一個焦點問題，大家(jia)對算(suan)力(li)的關(guan)注(zhu)度(du)太高(gao)，而忽略了模型本身算(suan)法、開發平臺(tai)等的難度(du)。
趙文斌認為，AI市(shi)場仍處在早期(qi)，短期(qi)突出(chu)的(de)是算力緊(jin)張的(de)問(wen)題，但隨著研究更深入、更多(duo)的(de)工具出(chu)現，這個問(wen)題將會被平滑地過渡(du)過去。
在王(wang)慧(hui)慧(hui)看來，AI目前至少有4個(ge)方面的(de)問題(ti)值(zhi)得所(suo)有從業者深(shen)入(ru)探討，包括基礎架構、算法和模型、數據以及應用(yong)場(chang)景(jing)。而(er)在企業級AI中，最(zui)核心的(de)問題(ti)是如(ru)何用(yong)更(geng)(geng)少的(de)投入(ru)得到更(geng)(geng)多的(de)產(chan)出，也就是新質(zhi)生產(chan)力(li)。
在模型的(de)開(kai)(kai)源程度方面，張(zhang)家駒(ju)分享(xiang)道，紅帽提(ti)供的(de)IBM Granite模型是將代碼、訓練(lian)過程、數(shu)據、權重(zhong)等全都開(kai)(kai)源的(de)，開(kai)(kai)源程度非常(chang)高。
一、堅持全面開源，AI應像云一樣混合
紅(hong)帽全球(qiu)副總裁兼大中(zhong)華區總裁曹衡康首(shou)先解(jie)讀了紅(hong)帽在AI發展路線(xian)上(shang)的看(kan)法，主(zhu)要分為兩點：
首先，AI必須是開源的。
▲紅(hong)帽對AI的看法(fa)其(qi)一
曹衡康談道(dao)，其實OpenAI一開始也(ye)是走開源路線，當(dang)時用(yong)的(de)還(huan)是紅帽的(de)OpenShift技術，但(dan)之后慢(man)(man)慢(man)(man)走向閉源。
在(zai)紅帽看來(lai)，開(kai)源(yuan)閉源(yuan)之(zhi)間并沒有(you)對(dui)錯之(zhi)分，但在(zai)封閉體系下，生(sheng)態的壟斷和安全(quan)隱(yin)患(huan)已(yi)初(chu)具端(duan)倪。相(xiang)較(jiao)之(zhi)下，開(kai)源(yuan)由(you)于受到整個開(kai)源(yuan)社區的監督，能夠更(geng)好地應對(dui)安全(quan)問題(ti)。
同時，開(kai)源能(neng)夠降低(di)企業擁有核心技術的門檻，讓開(kai)發者參(can)與到模型貢獻當(dang)中，提升(sheng)效(xiao)率和(he)性(xing)能(neng)。
具體(ti)來說(shuo)，紅(hong)帽和(he)IBM將以一個開放項目的形(xing)式發(fa)布Apache 2.0許可模(mo)型和(he)工具，上個月(yue)發(fa)布的基礎模(mo)型平(ping)臺產品(pin)RHEL AI則支持無(wu)縫開發(fa)、測試和(he)運行Granite系列大(da)型語(yu)言模(mo)型，為企業應用(yong)提供(gong)動力。
其次，云是混合的，AI也是。
▲紅帽對AI的看法其二
在有了(le)模型之后，所有的東西都必須在云上運作嗎？曹衡康認為，這(zhe)是非常浪費(fei)資源的行為，AI也(ye)應該像(xiang)云計算一(yi)樣做公(gong)有、私有和邊緣的混(hun)合，針對不(bu)同的平臺去做優(you)化。
基于以上(shang)兩個(ge)觀(guan)點，紅帽在企業(ye)級AI上(shang)的戰略是開(kai)放混合云、開(kai)源思想(xiang)，以及開(kai)放創新實踐。
▲紅帽的企(qi)業級AI戰(zhan)略與服務
曹衡康談道，紅帽不做(zuo)硬件，不做(zuo)應用，而是(shi)在兩(liang)者之間提供(gong)領先的(de)AI平(ping)臺，幫(bang)助企(qi)業(ye)安全(quan)高效地部(bu)署(shu)和管理AI模型、應用；構建AI基(ji)礎設施(shi)層(ceng)，為(wei)企(qi)業(ye)提供(gong)安全(quan)的(de)可擴展基(ji)礎設施(shi)和自動化。
在(zai)生態合作方面，紅帽目前已經擁有5000多(duo)家(jia)硬(ying)件企業(ye)、4000多(duo)家(jia)軟(ruan)件企業(ye)合作伙伴。在(zai)國際知名(ming)IT媒體CRN今年4月評(ping)選的(de)AI 100系列(lie)名(ming)單中，紅帽入(ru)選推動AI發展的(de)20家(jia)云公(gong)司名(ming)單。
二、企業AI創新面臨六大挑戰，端到端AI平臺三步走
紅帽大中華(hua)區解決方案(an)架構部高級總監王慧(hui)慧(hui)介紹(shao)了紅帽AI平臺方案(an)。她首先談道，對企業來說，實施AI創新從來不是(shi)一件簡單的事。
模型(xing)的選擇問題(ti)(ti)，只不過是冰(bing)山(shan)一角，真正實施起來會浮現出更多復雜(za)的問題(ti)(ti)：如何構建(jian)基礎架構？如何選擇AI工具(ju)？ROI太低(di)怎(zen)么辦？技術門檻高、人才(cai)稀缺怎(zen)么辦？……
企業需要(yao)評估AI應用(yong)場景(jing)，并運用(yong)AI專(zhuan)業知識來為特定場景(jing)選(xuan)擇適當的(de)模型，還(huan)必須處理(li)AI實施(shi)過程(cheng)中的(de)各(ge)項顯著難題(ti)，加(jia)上AI學科高門檻和人才的(de)稀缺性，使得情況更為復雜。
王慧慧稱，企(qi)業實施(shi)AI創新目前主要面臨六大挑戰。
▲企(qi)業實施AI創新的(de)六大(da)挑(tiao)戰
成(cheng)本方(fang)面，GPU貴且(qie)不易購置(zhi)，數據科學家難以招聘(pin)，企業(ye)被供應商鎖(suo)定(ding)議(yi)價困難。
ROI方面，大模型投入回報率低(di)、回報周(zhou)期長、時間成本高，AI應用場景目(mu)(mu)前(qian)仍不明確，業務目(mu)(mu)標難以(yi)實現。
人才(cai)(cai)方面，數據科學和AI人才(cai)(cai)稀缺，學習曲線陡峭，AI技術(shu)更(geng)新落后(hou)于技術(shu)趨勢。
數據(ju)安(an)全(quan)方面，數據(ju)泄(xie)漏、侵犯數據(ju)隱私、違(wei)反數據(ju)主(zhu)權等風險存(cun)在，此(ci)外行業和政(zheng)府監管要求高(gao)。
算法方面，AI模型訓(xun)練與(yu)調(diao)優復雜，工具(ju)和框架難以(yi)選(xuan)擇，模型架構復雜。
生(sheng)態合(he)作(zuo)方(fang)面，企(qi)業數據訓練和(he)調優模(mo)型、部署(shu)和(he)管(guan)理AI模(mo)型的協作(zuo)效率低，需(xu)要在(zai)AI生(sheng)態中與合(he)作(zuo)伙伴積極協作(zuo)。
基(ji)于(yu)混合云，紅帽(mao)提供(gong)從AI基(ji)礎架構、AI平臺、AI模型到AI賦能(neng)應用等全流(liu)程的能(neng)力。
▲紅帽跨混合云(yun)加速AI在企業中的應用(yong)
具體來說(shuo)，紅帽(mao)以三個(ge)步驟(zou)提供端到端的(de)AI平臺(tai)和路(lu)徑。
▲端到端AI平臺(tai)和路徑
首先，在資源受限(xian)的(de)桌面(mian)環境下(xia)，采用(yong)小數據集進行實驗性(xing)的(de)訓練(lian)。這里用(yong)到(dao)的(de)Podman是(shi)一款用(yong)于大模(mo)(mo)(mo)型(xing)的(de)開發(fa)工具，它可以在筆記(ji)本(ben)電腦上快(kuai)速運行和編碼對本(ben)地模(mo)(mo)(mo)型(xing)進行操作。InstructLab是(shi)一個用(yong)于生(sheng)成式AI模(mo)(mo)(mo)型(xing)開發(fa)的(de)開源社(she)區項目，定期發(fa)布訓練(lian)好(hao)的(de)模(mo)(mo)(mo)型(xing)。
▲InstructLab
第二步(bu)，通(tong)過(guo)完整的(de)合成數據(ju)生成技(ji)術，采用“教師”模型和“學(xue)生”模型的(de)訓(xun)練方法，進行(xing)生產級模型訓(xun)練，并提(ti)供基本(ben)操(cao)作腳本(ben)化的(de)工具支持(chi)。這一步(bu)基于紅帽企業級Linux AI平臺，其能夠無縫開(kai)發、測試和運行(xing)開(kai)源Granite模型。
▲紅帽(mao)企業級Linux AI
最后，在(zai)更大的分布式集群規模下，與RHEL AI一(yi)樣進行生產(chan)(chan)級模型訓練。同時(shi)充(chong)分利(li)用(yong)(yong)Kubernetes擴(kuo)展、自動化并實(shi)現(xian)MLOps的全部功能(neng)。這一(yi)步基(ji)于混合(he)MLOps平臺OpenShift AI實(shi)現(xian)，該平臺能(neng)夠將IT、數據科學和應用(yong)(yong)程序開發團隊聚集在(zai)一(yi)起，可用(yong)(yong)作托管云服務、云端或(huo)本地的傳(chuan)統軟件(jian)產(chan)(chan)品。
▲紅帽OpenShift AI
此外，紅帽提供跨平臺的Lightspeed產品，基(ji)于自然語言生成(cheng)式AI處理能力，擴展現有的IT技能。Lightspeed通(tong)過將AI融入集群管理和(he)(he)操作系統，能夠提高運(yun)維人(ren)員(yuan)和(he)(he)開發人(ren)員(yuan)的工(gong)作效率和(he)(he)生產力，簡化企(qi)業規劃和(he)(he)管理，在(zai)混(hun)合云中(zhong)更好地應對企(qi)業IT復雜性。
▲跨(kua)紅帽平臺的(de)紅帽Lightspeed
據介(jie)紹，OpenShift Lightspeed將于今年(nian)(nian)晚些時候提供技術預覽，RHEL Lightspeed目前處于規劃階(jie)段，Ansible Lightspeed則于去年(nian)(nian)發布。
三、加速企業智能制造升級，融合國內AI生態
談到紅帽(mao)在國(guo)內的重點發展策略(lve)與舉(ju)措(cuo)，曹衡康提到了兩個(ge)方向(xiang)。
首(shou)先，配合國家戰略，加速企業智能(neng)制(zhi)造升(sheng)級。
▲紅帽(mao)在(zai)國內(nei)的(de)重點發展方向(xiang)其一
紅(hong)帽(mao)認為(wei)，開源是重塑(su)行(xing)業(ye)技(ji)術、打通行(xing)業(ye)生態的(de)(de)重要推力。在工業(ye)控(kong)制、通訊(xun)技(ji)術、信息技(ji)術等(deng)領域，AI轉型能(neng)滿足行(xing)業(ye)功能(neng)性(xing)能(neng)的(de)(de)要求同時實(shi)現軟(ruan)硬解耦，消除(chu)硬件及系統層面的(de)(de)行(xing)業(ye)壁壘(lei)，從而增(zeng)加靈活性(xing)，為(wei)應(ying)用層的(de)(de)場景爆發提供先決條件。
▲紅帽在國內的(de)重點發展方向其一
紅(hong)帽云原(yuan)生方案的目標是幫(bang)助(zhu)制(zhi)造業(ye)實(shi)(shi)現IT+OT+AI的整合(he)創新。例如，工控微(wei)(wei)服(fu)務(wu)與IT微(wei)(wei)服(fu)務(wu)的混合(he)部署，可以使得(de)制(zhi)造企業(ye)自(zi)動(dong)化+數(shu)(shu)字(zi)化+信息化的整體(ti)成本大幅降(jiang)低(di)；工控微(wei)(wei)服(fu)務(wu)與AI微(wei)(wei)服(fu)務(wu)的混合(he)部署能夠使實(shi)(shi)時分析(xi)高(gao)解(jie)析(xi)度(du)數(shu)(shu)據復(fu)雜度(du)大幅降(jiang)低(di)，進而推(tui)動(dong)預測(ce)性(xing)維護、數(shu)(shu)字(zi)孿生等(deng)場景分析(xi)準確性(xing)的提升(sheng)。
其(qi)次(ci)，賦能與融合國(guo)內AI生態，加(jia)速AI在全行(xing)業的應用。
▲紅帽在國內(nei)的重點發展(zhan)方向其二
通過融合(he)國內(nei)外GPU廠(chang)(chang)商(shang)(shang)、OEM（原廠(chang)(chang)設備制造(zao)商(shang)(shang)）、ISV（獨立軟件(jian)開發商(shang)(shang)）以及云(yun)廠(chang)(chang)商(shang)(shang)，紅(hong)帽將重(zhong)點放在加速金(jin)融、電信、廣(guang)義制造(zao)業(ye)、汽(qi)車等全(quan)行業(ye)的應(ying)用上(shang)。
結語：開源AI進入企業，紅帽推動智能制造升級
開源生態一直是紅帽堅(jian)持的(de)(de)理念和(he)(he)戰略，在AI領域，其通過堅(jian)持全面開源和(he)(he)混合云理念，提(ti)供(gong)端(duan)到端(duan)的(de)(de)AI平臺(tai)和(he)(he)解決方案(an)，致(zhi)力于加速(su)企業(ye)智能制造升級以及融(rong)合國內AI生態，以推動AI在各個行業(ye)的(de)(de)廣泛(fan)應(ying)用和(he)(he)深入發(fa)展(zhan)。
在溝通會(hui)前夕，紅(hong)帽(mao)向到場媒(mei)(mei)體(ti)(ti)發(fa)放(fang)了一個小(xiao)問卷。調查結(jie)果顯示，有50%的(de)媒(mei)(mei)體(ti)(ti)都看(kan)重AI開源生態，僅有5.56%的(de)媒(mei)(mei)體(ti)(ti)力挺閉源派，其他媒(mei)(mei)體(ti)(ti)則不確定。未來，我(wo)們期待看(kan)到紅(hong)帽(mao)能繼續在AI開源的(de)道路上發(fa)揮重要作用，為行業的(de)進步和(he)創新做出(chu)更(geng)大的(de)貢(gong)獻。
