智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西11月3日報道，在本(ben)周舉行的2024紅(hong)帽論壇上，企業(ye)級開源解決方案提供商紅(hong)帽公司展示了(le)其如何用(yong)開放混合的AI和開源方法加(jia)速(su)企業(ye)AI應用(yong)。
今年(nian)是紅帽(mao)在中(zhong)國的(de)第二十年(nian)。紅帽(mao)全球副總裁兼(jian)大中(zhong)華區總裁曹(cao)衡康(kang)談道，用混合(he)開放的(de)模式來開發AI已成為一個必然趨勢(shi)，紅帽(mao)在基礎架構上采用混合(he)云模式，支(zhi)(zhi)持本地(di)數據中(zhong)心、公有(you)云和(he)(he)邊(bian)緣計算環(huan)境的(de)運行(xing)，并支(zhi)(zhi)持開源和(he)(he)閉源模型，從而為企業提(ti)供靈活(huo)選擇。
2024紅帽(mao)亞太(tai)創新獎(jiang)以“解鎖(suo)下一步”為主題，表彰了(le)通過開源(yuan)技術推動(dong)轉型(xing)和創新的客(ke)戶。在當日論壇期間，2024紅帽(mao)亞太(tai)創新獎(jiang)中國區獲獎(jiang)名(ming)單正式公(gong)布，獎(jiang)項(xiang)授予安利（中國）有(you)限(xian)公(gong)司和西(xi)門子工業自(zi)動(dong)化產品（成都）有(you)限(xian)公(gong)司，以表彰他們在創新運用紅帽(mao)解決方案應對不斷變化的業務需求(qiu)方面(mian)的卓越(yue)表現。
《2024年紅帽全球技術趨(qu)勢報告(gao)》顯示(shi)，亞太(tai)地區企業的首要投(tou)資(zi)方(fang)向集中(zhong)在(zai)構建云原(yuan)(yuan)生應用、提升數(shu)字(zi)用戶(hu)體驗以及加速應用和服務的交(jiao)付。這些數(shu)據突顯了創新解決方(fang)案在(zai)數(shu)字(zi)化轉型、混(hun)合(he)云基礎架構、云原(yuan)(yuan)生開發、自(zi)動化以及企業敏捷(jie)性(xing)五大關鍵領域中(zhong)的重要性(xing)。
會后(hou)，西(xi)門子工業自(zi)動化（成都）有限(xian)公(gong)司信(xin)息技術部經(jing)理楊健、多位紅帽(mao)大中華(hua)區(qu)高管(guan)與智東西(xi)等媒體進行了(le)深入交流。據(ju)曹衡康分享，去年紅帽(mao)業績(ji)創下歷史新高，今(jin)年也繼續呈雙位數增長，其增長來(lai)自(zi)于越來(lai)越多的(de)企業接受開(kai)源(yuan)技術、認識(shi)到開(kai)源(yuan)的(de)優勢。在他看來(lai)，AI發展的(de)關鍵(jian)在于應用場景(jing)，這也是紅帽專(zhuan)注探索的(de)方向，紅帽在傳(chuan)統的(de)數(shu)字(zi)創(chuang)新和數(shu)字(zi)轉型領域(yu)同樣將(jiang)產生更多(duo)的(de)應用案例。
一、穩定、安全的“小模型”：減少所需算力與成本，符合企業特定需求
紅帽全(quan)球(qiu)副總裁兼大(da)中華(hua)區總裁曹(cao)衡康談道，紅帽的理念不僅(jin)是創建(jian)和使用開源模(mo)型(xing)，更在幫助企業構建(jian)個(ge)性化模(mo)型(xing)。
過去兩(liang)年(nian)，全(quan)球資本大(da)舉投入基礎建設，但(dan)未(wei)見(jian)顯著成效(xiao)(xiao)，許多(duo)企(qi)業(ye)(ye)應用(yong)仍未(wei)落地。此前，不少(shao)企(qi)業(ye)(ye)嘗試(shi)用(yong)大(da)模(mo)(mo)(mo)(mo)型(xing)提升(sheng)效(xiao)(xiao)能，但(dan)發現大(da)模(mo)(mo)(mo)(mo)型(xing)不適合生(sheng)(sheng)產場景，因為一點(dian)小(xiao)錯(cuo)就可能帶(dai)來風險。因此，紅帽在過去幾年(nian)提出(chu)了“小(xiao)模(mo)(mo)(mo)(mo)型(xing)”概念，即專屬(shu)模(mo)(mo)(mo)(mo)型(xing)（faithful purpose），讓企(qi)業(ye)(ye)的數據驅動AI模(mo)(mo)(mo)(mo)型(xing)的生(sheng)(sheng)成，確(que)保模(mo)(mo)(mo)(mo)型(xing)穩定、安全(quan)，并符合企(qi)業(ye)(ye)的特定需求。
通(tong)過“小模型(xing)(xing)(xing)”概念，紅帽可以快速將客戶的知(zhi)識庫輸入到模型(xing)(xing)(xing)中，無(wu)論采用(yong)何種(zhong)模型(xing)(xing)(xing)架構，都能(neng)通(tong)過深(shen)度數據的方式生成企業(ye)的專(zhuan)屬模型(xing)(xing)(xing)，從而快速搭建適合(he)客戶的特(te)有模型(xing)(xing)(xing)。
紅帽還引入(ru)了“社區(qu)版”小模型(xing)，通過合(he)成(cheng)數據大(da)幅(fu)減(jian)少對真實(shi)數據的(de)需(xu)求，將(jiang)數據量降至原(yuan)來的(de)千分之(zhi)一。這種方式不僅降低(di)了算力(li)需(xu)求，節約了成(cheng)本(ben)，能耗也大(da)幅(fu)減(jian)少，對環境更加(jia)友好(hao)。
圍繞(rao)推動開(kai)源AI發展，曹(cao)衡康(kang)分享了“三步走”策略：
第(di)一(yi)(yi)步，通(tong)過各種(zhong)市場(chang)渠(qu)道(dao)，推廣(guang)AI的獨(du)特(te)功能和優勢(shi)。一(yi)(yi)個新技術要進入(ru)市場(chang)，需找到(dao)成功的應用(yong)案例(li)并(bing)加(jia)以推廣(guang)。
第二步，通(tong)過合作伙(huo)伴生(sheng)態，賦(fu)能(neng)合作伙(huo)伴的(de)技(ji)術和顧問團隊(dui)，使他們(men)更深入地(di)了解(jie)紅帽的(de)AI技(ji)術，從(cong)而(er)更好地(di)支持(chi)客戶(hu)。
第三步(bu)(bu)，通過開放實驗室，與(yu)客戶(hu)的顧(gu)問團隊合作，針對企業的研發(fa)、生產、市場行銷和客戶(hu)支持等環節，與(yu)客戶(hu)共同探討如何將AI技(ji)術應(ying)用到(dao)實際場景(jing)(jing)中，一起(qi)找出最具效能(neng)的應(ying)用場景(jing)(jing)，從一個小應(ying)用成功(gong)起(qi)步(bu)(bu)，逐步(bu)(bu)擴展(zhan)至更大的場景(jing)(jing)。
紅帽(mao)的AI產(chan)品(pin)包括語(yu)言和代(dai)碼(ma)模型(xing)。紅帽(mao)大中華(hua)區(qu)方案架構部總經理王慧慧介紹了紅帽(mao)AI平臺方案。她談道，從(cong)產(chan)品(pin)發布(bu)到(dao)原(yuan)型(xing)驗證(zheng)、試點到(dao)正式(shi)生(sheng)產(chan)部署需(xu)要一(yi)定(ding)時間。紅帽(mao)的AI產(chan)品(pin)從(cong)美國發布(bu)到(dao)現在(zai)僅5個(ge)月，已有多個(ge)客(ke)戶開始復制該(gai)成功經驗。
據她分(fen)享，一家保險業客戶(hu)已使用紅帽的(de)(de)(de)AI技(ji)術來(lai)加速(su)代(dai)碼審查(cha)(cha)和代(dai)碼合并請求的(de)(de)(de)處(chu)理。他們之前使用舊工具時存在(zai)(zai)準(zhun)確(que)率低的(de)(de)(de)問題(ti)（當準(zhun)確(que)率低于95%甚至96%，尤(you)其在(zai)(zai)生產環境中(zhong)，效果不理想），在(zai)(zai)引入紅帽的(de)(de)(de)新AI工具后(hou)，代(dai)碼合并和審查(cha)(cha)的(de)(de)(de)準(zhun)確(que)率大大提升，達到了這(zhe)家客戶(hu)的(de)(de)(de)高(gao)標準(zhun)。
曹(cao)衡康補充說，紅帽內部也在使(shi)用(yong)AI來優(you)化客戶(hu)支持。例如在客戶(hu)查詢知(zhi)識(shi)庫時，紅帽通(tong)過AI提(ti)(ti)供最佳解決方案，其工程(cheng)師(shi)在項(xiang)目交接或(huo)技術總結時也使(shi)用(yong)AI生成報告，有效(xiao)減少了重復(fu)溝通(tong)，提(ti)(ti)高(gao)了效(xiao)率。
二、加速與本土開發商共創，助攻西門子制造業架構轉型
紅帽大(da)中華區資深市(shi)場(chang)總監趙文斌談(tan)道，場(chang)景應用(yong)(yong)是(shi)ISV（獨立軟件開(kai)發商）和AV（應用(yong)(yong)供(gong)應商）最擅長的(de)(de)領域。由(you)于許多企業(ye)和行業(ye)都(dou)有各自的(de)(de)特點，紅帽加速了與本土(tu)ISV及方案開(kai)發商的(de)(de)合作。在(zai)市(shi)場(chang)拓展中，紅帽也特別關注(zhu)共(gong)創模式（co-creation）。通過(guo)與ISV共(gong)創，結(jie)合各行業(ye)的(de)(de)獨特場(chang)景和聯合解決方案，紅帽可(ke)以幫助企業(ye)更快(kuai)地實現AI應用(yong)(yong)落地。
西門子(zi)工業自(zi)動化產(chan)品（成都）有限公司(si)是(shi)2024紅帽亞(ya)太創(chuang)新獎(jiang)獲獎(jiang)機構之一，是西(xi)門子德(de)國安貝格（Amberg）的(de)姐妹工廠(chang)。它通(tong)過部署紅(hong)帽OpenShift，打造了新一代集成、靈活且彈性的(de)生(sheng)產(chan)支持(chi)系(xi)統MEMO（制造運營模塊化生(sheng)態系(xi)統）。該系(xi)統顯著提升(sheng)了生(sheng)產(chan)線工人的(de)用戶體驗和工作效率(lv)。
西門子工業自(zi)動化產品（成(cheng)都）有限公司(si)信息(xi)技術部經理楊健(jian)(jian)分享了與紅帽(mao)合作的感受，在采用紅帽(mao)的解決方案后，他(ta)們(men)實現(xian)了從單體(ti)架(jia)構向微(wei)服(fu)務分布式架(jia)構的轉型(xing)。楊健(jian)(jian)認為(wei)，這種轉型(xing)是(shi)制造業未來發展的一(yi)個趨勢。
許(xu)多制(zhi)造(zao)業企業的應(ying)用(yong)系統原本采用(yong)單體架構，這(zhe)種架構在(zai)維護時(shi)可(ke)能需(xu)要停機(ji)，對于滿負荷(he)生產的工廠來說，停機(ji)一小(xiao)時(shi)可(ke)能損(sun)失幾十萬甚至上百萬。此外，單體架構在(zai)功能增(zeng)加和(he)編譯上也很麻煩，整體測試(shi)需(xu)要耗費大(da)量(liang)時(shi)間(jian)和(he)資(zi)源。
而微(wei)服務架構可(ke)將(jiang)功能拆分(fen)成(cheng)許(xu)多小模塊，變(bian)更(geng)(geng)起來(lai)更(geng)(geng)靈活。這帶來(lai)了幾個優勢(shi)：一是(shi)可(ke)以在不停機的情(qing)況下進行維護、升級和(he)變(bian)更(geng)(geng)；二是(shi)每次變(bian)更(geng)(geng)可(ke)以針對(dui)更(geng)(geng)小的范圍，便于精準控制和(he)資源調度(du)。
楊健回顧說，與紅帽的合(he)作非(fei)常順(shun)暢，相比其(qi)他供應商(shang)，紅帽在響應速度和責(ze)任感(gan)方面表現(xian)突出。這種共創的模式和合(he)作環境非(fei)常寶貴，也是(shi)他們(men)選(xuan)擇并繼續合(he)作紅帽平臺的重要原因之一。此外，紅帽論壇期間展示(shi)許多(duo)平臺、解決(jue)方案和產品(pin)也給(gei)他帶來了啟發。
西門子在AI領域(yu)已經看(kan)到(dao)了很多優(you)質的解決方案和思路。比如(ru)西門子很早就開(kai)始應用小模(mo)型(xing)，尤其是在生產領域(yu)，比如(ru)機器(qi)(qi)視覺。以(yi)垃(la)(la)圾分(fen)揀(jian)(jian)為例，原材料加(jia)工后(hou)產生的垃(la)(la)圾有(you)金(jin)屬、塑(su)料和紙張等，以(yi)前的機器(qi)(qi)人視覺識別(bie)準(zhun)確率只有(you)大約85%，西門子通過小模(mo)型(xing)訓練將準(zhun)確率從85%提升到(dao)95%以(yi)上，大幅提升了分(fen)揀(jian)(jian)效率。
小模型(xing)(xing)非常適(shi)用于生產(chan)，是因為應用和場景單(dan)一，錯誤(wu)率(lv)低，能保證質(zhi)量和過程的(de)可控性。而大模型(xing)(xing)有時會(hui)出現(xian)的(de)幻(huan)覺問題在(zai)生產(chan)應用中存在(zai)風險，因此西門(men)子當前對大模型(xing)(xing)的(de)應用保持(chi)探索并較為謹慎，希望通(tong)過持(chi)續優化，使大模型(xing)(xing)更可靠、可信且全面。
三、向企業提供“三步走”AI部署路徑，鼓勵跨云混合部署
在幫(bang)助客戶更加快(kuai)速經濟(ji)地(di)實現應用落地(di)方(fang)面，曹衡康談道(dao)，從(cong)成本的(de)角度，紅帽(mao)的(de)混合云(yun)理(li)念鼓勵客戶在合適的(de)場所部(bu)署算力，比如(ru)企業內部(bu)數據(ju)中心(xin)、公有云(yun)乃至跨多云(yun)環境(jing)。
去(qu)年(nian)紅帽(mao)推出(chu)了“Unlock”理念，旨(zhi)在(zai)避免(mian)客戶(hu)(hu)被(bei)鎖定在(zai)特定云(yun)上，開源架構(gou)為客戶(hu)(hu)提供更(geng)多彈性和(he)自由度。因此，紅帽(mao)始(shi)終(zhong)鼓勵客戶(hu)(hu)使用紅帽(mao)的開放(fang)平臺，以便在(zai)任意云(yun)和(he)本地環(huan)境(jing)中靈活切換，滿足(zu)各(ge)種算力需求。
王慧(hui)慧(hui)提(ti)(ti)到許(xu)多客戶(hu)反饋說希望(wang)先(xian)了解成本和收(shou)益，再(zai)決定項(xiang)目(mu)的可(ke)行性。紅帽對此需求非常重視，提(ti)(ti)出了“分步(bu)實施”的策略，即“企業AI應用(yong)三步(bu)曲(qu)”。
第一步，客戶可在最(zui)小資(zi)源配置下試用開源模型和工(gong)具(ju)，比如在筆記本電腦(nao)上用CPU試跑，而不需要額(e)外的GPU卡。
如果測試(shi)效果滿意，客(ke)戶可以進(jin)(jin)(jin)入第二步，通過云租(zu)用算力進(jin)(jin)(jin)行(xing)進(jin)(jin)(jin)一步擴(kuo)展。紅帽平(ping)臺幾乎可在任(ren)何云上運行(xing)，客(ke)戶可以選擇公(gong)司數據中心(xin)或外部公(gong)有云資源(yuan)，在確認模(mo)型適(shi)合需(xu)求后，才進(jin)(jin)(jin)入第三(san)步的大規模(mo)部署(shu)。
第三步(bu)，紅帽(mao)架構支持跨(kua)云混(hun)合部署。例如，客戶(hu)可以在(zai)(zai)中國(guo)使用阿里(li)云，在(zai)(zai)美(mei)國(guo)使用AWS，這種多云方案(an)既(ji)靈活又經濟。紅帽(mao)的目標是幫(bang)助客戶(hu)實現最佳的投資回報率（ROI），并在(zai)(zai)每(mei)一(yi)步(bu)提供適配的支持。
紅帽InstructLab是一個(ge)用(yong)于(yu)生(sheng)成式AI模型開發的(de)開源社(she)區項目(mu)，由紅帽和(he)IBM聯(lian)合發起，支持市面上各種(zhong)模型，被稱作(zuo)“連(lian)接社(she)區和(he)客戶的(de)橋梁”。王慧慧說，InstructLab和(he)Granite是一個(ge)相輔相成的(de)體系。
設計(ji)InstructLab有兩個(ge)主(zhu)要目(mu)的(de)(de)：一是讓客(ke)戶基(ji)(ji)于Granite基(ji)(ji)礎(chu)模型，使用InstructLab和(he)自(zi)身數(shu)據訓練出(chu)符(fu)合需(xu)求的(de)(de)模型。InstructLab的(de)(de)輸出(chu)分為“知識”和(he)“技能(neng)”，可在企業內部自(zi)用。此外，InstructLab還(huan)能(neng)將知識和(he)技能(neng)反饋至上游的(de)(de)管(guan)理機構。當管(guan)理機構收到客(ke)戶反饋的(de)(de)更新(xin)后(hou)，可將其(qi)整(zheng)合到社區版本的(de)(de)Granite模型中，并發(fa)布新(xin)版本。
紅帽的(de)(de)開源(yuan)平臺上幾乎(hu)所有產品(pin)都遵循這種模式。在開源(yuan)模型(xing)(xing)領域，這種方法是(shi)紅帽和(he)IBM首次探(tan)索(suo)的(de)(de)方向，旨在通過開源(yuan)社(she)區推動開源(yuan)模型(xing)(xing)的(de)(de)持續進步，而不僅僅是(shi)開放某個版本的(de)(de)模型(xing)(xing)。
結語：引領開源路線，將增加本地化支持
隨著AI應(ying)用日益(yi)成熟與普及，越(yue)來(lai)越(yue)多企業(ye)面(mian)臨AI技術(shu)路線的(de)選擇，而開(kai)(kai)(kai)源方式能夠幫助企業(ye)有效降低(di)應(ying)用門檻和(he)成本。據王(wang)慧(hui)(hui)慧(hui)(hui)分享，自(zi)2019年IBM成為紅(hong)帽(mao)母公司以來(lai)，IBM在開(kai)(kai)(kai)源方面(mian)的(de)投入愈發積(ji)極，在工作方式和(he)平(ping)臺選擇上(shang)越(yue)來(lai)越(yue)傾向(xiang)開(kai)(kai)(kai)源。IBM將(jiang)其最初的(de)Watson平(ping)臺（現稱Watson X）逐步開(kai)(kai)(kai)源，接下來(lai)IBM和(he)紅(hong)帽(mao)將(jiang)共同致(zhi)力于維護開(kai)(kai)(kai)源模型的(de)持續迭(die)代(dai)。
IBM和紅帽接受來自用(yong)戶和合作(zuo)伙伴的(de)(de)反饋和貢獻，不斷改進(jin)模(mo)(mo)型(xing)。IBM不僅限于(yu)語言(yan)模(mo)(mo)型(xing)，還推出了代碼模(mo)(mo)型(xing)等其他模(mo)(mo)型(xing)，持續拓展應用(yong)領域，走向(xiang)更廣(guang)泛的(de)(de)開(kai)源(yuan)之路。IBM的(de)(de)咨詢部門(men)也(ye)與紅帽保持緊密合作(zuo)，共同探討如(ru)何通過開(kai)源(yuan)平(ping)臺幫助客(ke)戶實現AI應用(yong)。
趙文斌補充(chong)道，IBM非常尊(zun)重(zhong)紅帽的開放(fang)性(xing)，在合(he)作項目中，IBM是(shi)紅帽眾多選擇之(zhi)一，紅帽仍然與其他解決方案保持(chi)平等合(he)作。具體來說，許多聯合(he)項目都是(shi)基于紅帽的開源平臺(tai)，客戶(hu)需(xu)求(qiu)始終是(shi)紅帽創新的核(he)心，紅帽通過(guo)開源方法(fa)進(jin)行持(chi)續集(ji)成和迭代。同時，紅帽堅(jian)持(chi)平臺(tai)的中立和獨立性(xing)。
在(zai)曹(cao)衡康看來，地(di)緣(yuan)政治更加(jia)凸顯了擁(yong)抱開(kai)(kai)源(yuan)(yuan)(yuan)的重要性。與(yu)閉源(yuan)(yuan)(yuan)公(gong)司不同，開(kai)(kai)源(yuan)(yuan)(yuan)技術較少受到地(di)緣(yuan)政治限制，用(yong)戶可(ke)以隨時(shi)下(xia)載和使(shi)用(yong)所需的工(gong)具。據(ju)他透露，紅帽下(xia)一步(bu)將繼續(xu)擴大與(yu)國(guo)內企業的合作，已與(yu)本土ISV公(gong)司建立了多(duo)項合作，這些合作涵(han)蓋(gai)芯片和軟件等方面，確保其(qi)開(kai)(kai)源(yuan)(yuan)(yuan)路線在(zai)國(guo)內有更多(duo)本地(di)化支持(chi)。
