智東西（公眾號：zhidxcom）
作者 | 韋世瑋
編輯 | 心緣
智(zhi)東(dong)西(xi)8月4日(ri)消息(xi)，近日(ri)，英特爾(er)在AI計算盒主題分享會上與(yu)眾多合作伙伴(ban)一起(qi)，分享了AI計算盒一系列最新落(luo)地(di)成(cheng)果。
同時，英特爾(er)公司(si)高(gao)級首席工程師、物聯網(wang)事業部中(zhong)國區首席技(ji)術官張宇博士，以及英特爾(er)物聯網(wang)事業部技(ji)術銷售經(jing)理劉(liu)波(bo)等英特爾(er)高(gao)管(guan)和技(ji)術專家(jia)，圍(wei)繞AI計算盒(he)的軟硬件技(ji)術優勢(shi)進行剖析(xi)，并分享了(le)他們對邊緣(yuan)AI技(ji)術發展(zhan)趨勢(shi)的看(kan)法。
“人工智(zhi)能(neng)的發展離不開計(ji)算、通訊(xun)、存(cun)儲技術。”張宇(yu)談道。同時他(ta)認為(wei)，邊(bian)緣AI的發展分為(wei)三個階(jie)段(duan)，目(mu)前我們還處于第一階(jie)段(duan)，也就是邊(bian)緣推理階(jie)段(duan)，而自主(zhu)學習是最終目(mu)標。
會(hui)后(hou)，張宇(yu)、劉波等英特(te)爾(er)高(gao)管(guan)和(he)技術(shu)專家還(huan)與智東西等媒體進行了深入交流，在探討英特(te)爾(er)AI計(ji)算(suan)盒過(guo)去一年創新應用的的同時，還(huan)分享了英特(te)爾(er)在邊緣AI計(ji)算(suan)賽道的布局和(he)規劃。
▲英特爾公(gong)司高(gao)級首(shou)席工程師、物聯網事業部中國(guo)區首(shou)席技術官張宇博士
一、AI計算盒：AI推理加速能力高達8倍，已落地數十個場景
何為英(ying)特爾AI計算盒？
簡單來說，該方案融合(he)了第11代英(ying)(ying)特爾酷(ku)睿處理器(qi)、OpenVINO工具套件、英(ying)(ying)特爾Media SDK等軟(ruan)硬件產品和技(ji)術，通過英(ying)(ying)特爾成熟的平(ping)臺級能力(li)，幫(bang)助各層(ceng)面(mian)合(he)作伙伴與最終用戶(hu)加(jia)速邊緣AI應用的開發(fa)和工程(cheng)化落(luo)地。
而AI計算(suan)盒的誕生也與(yu)邊緣人(ren)工智能的發展(zhan)息息相(xiang)關，尤其是細分的智能視頻分析市場。相(xiang)關行業預測數據，到2022年(nian)，智能視頻分析市場的規模或將超過1800億人(ren)民幣，復合增長率為(wei)34%。
同時，智(zhi)(zhi)能(neng)視(shi)頻分析(xi)解決方案也將在智(zhi)(zhi)慧城市、智(zhi)(zhi)能(neng)交通、智(zhi)(zhi)能(neng)制造、智(zhi)(zhi)慧零售等(deng)10余個領域得到廣泛運(yun)用。
為了(le)順(shun)應智能視頻分析市場強勁的增(zeng)長態勢，為行業提供(gong)發(fa)展所需的強大算(suan)力，英(ying)特爾在(zai)2020年就正式(shi)推(tui)出了(le)AI計算(suan)盒參考設(she)計，在(zai)基礎算(suan)力、AI加速(su)和軟件棧配置(zhi)等方面都有(you)著不少(shao)優勢。
基礎(chu)算力(li)層面，AI計(ji)算盒(he)基于(yu)英特(te)爾(er)10nm SuperFin制程(cheng)(cheng)工藝，擁有更低(di)的功耗設計(ji)，支(zhi)持最新PCIe 4.0高(gao)速擴展接口(kou)，使得處(chu)理器的單線程(cheng)(cheng)處(chu)理能(neng)力(li)提升23%，多線程(cheng)(cheng)處(chu)理能(neng)力(li)提升19%，為智(zhi)能(neng)視頻分析(xi)提供強勁(jing)的算力(li)支(zhi)撐。
AI加速(su)(su)方(fang)面(mian)，通(tong)過集(ji)成(cheng)英特(te)爾(er)銳炬Xe顯卡、英特(te)爾(er)GNA 2.0神經加速(su)(su)器，以及面(mian)向深(shen)度學習(xi)優化的(de)VNNI指令集(ji)等，AI計算盒(he)可獲得高達8倍的(de)AI推理加速(su)(su)能力。
在軟(ruan)件(jian)棧配置上，英特爾(er)Media SDK通過(guo)統一的API訪(fang)問接口、優化的媒(mei)體(ti)庫訪(fang)問，能夠讓AI計算盒(he)提(ti)升視頻(pin)播放(fang)、編(bian)解碼以及格(ge)式轉(zhuan)換效率，獲得實(shi)時(shi)4K視頻(pin)通信(xin)所需(xu)的60 FPS HEVC視頻(pin)編(bian)解碼能力。
同時，AI計(ji)算盒所集成的英(ying)特(te)爾(er)OpenVINO工具套件，能夠(gou)有效支(zhi)持從邊緣到(dao)云端的深度(du)學(xue)習推理(li)。
基(ji)于AI計算(suan)盒的一系列(lie)技術創新和設計，英特爾已和各(ge)行業合作伙伴(ban)共同(tong)構建了面向各(ge)垂(chui)直領域的端到(dao)端解決方案，覆蓋(gai)智能支付、智能停車、智慧(hui)社(she)區、智慧(hui)樓宇(yu)、智能VDD、智能會(hui)議等數十個場景。
尤其是面向智(zhi)慧城市和智(zhi)慧生(sheng)活(huo)場景，英特爾聯合(he)智(zhi)芯原動、趨視科(ke)技、開域集團、中科(ke)創達、小鈷科(ke)技等公司打造的(de)AIoT解決(jue)方案(an)，已(yi)實現全(quan)面落地。
二、張宇：自主學習是邊緣AI的最終階段
分享會現場，英特(te)爾公司高級首席(xi)工(gong)程師、物聯網事(shi)業部中國區首席(xi)技術官張宇(yu)博士還圍繞AI浪潮的(de)發展，談(tan)了他對邊(bian)緣AI發展趨勢的(de)看法和未來展望。
在他(ta)看(kan)來，推動本輪AI高潮的核心因素主要涉及算(suan)力和數(shu)據兩個(ge)方面。
算力方面，當1994年全(quan)球超級五百強算力榜(bang)單(dan)第一(yi)次公(gong)布時，排名第一(yi)的(de)超級計算機的(de)每秒浮點運算峰值(zhi)速(su)度達到了(le)13000/次。而在(zai)今(jin)年的(de)榜(bang)單(dan)上(shang)，這(zhe)個數(shu)字已經達到了(le)53億億次。
“在摩爾定律的推動下(xia)，算力(li)得到(dao)了極大提升，能(neng)夠幫(bang)助我們在更短時間內(nei)完成網(wang)絡(luo)模型的訓練，或處(chu)理更加復雜的AI網(wang)絡(luo)系統。”在張宇看(kan)來，這可以拉近AI技(ji)術(shu)(shu)與商(shang)業訴(su)求的距離，推動AI技(ji)術(shu)(shu)落(luo)地。
數據(ju)方面，“現在AI是離(li)不開(kai)數據(ju)的(de)，不然得不到好的(de)結構。”張宇提到，以Lecunet為例，普通的(de)開(kai)放數據(ju)池(chi)中包含了超過1400萬(wan)兆經過標注的(de)圖片，利用這(zhe)些(xie)圖片，算法開(kai)發人員可(ke)以進行圖像分類(lei)的(de)識(shi)別(bie)，而這(zhe)些(xie)圖片數據(ju)增加的(de)背后，實際(ji)上是基于通訊(xun)技術(shu)與存儲技術(shu)的(de)不斷(duan)提升。
“人工智能的發展離不開計算、通訊、存儲技術。”他說。
此外，張宇還談到了邊緣AI發展的三個階段，一是邊緣推理，二是邊緣訓練，三是自主學習。
他提到(dao)，AI技術(shu)已經在(zai)越(yue)來(lai)越(yue)多(duo)的邊(bian)緣(yuan)計算(suan)(suan)領(ling)域得(de)到(dao)了普及(ji)，比(bi)如(ru)工業互聯(lian)網(wang)領(ling)域會用AI技術(shu)做產品缺(que)陷檢(jian)測。不過，目(mu)前大多(duo)數(shu)的運作(zuo)模(mo)式是(shi)，利(li)用數(shu)據(ju)中心的算(suan)(suan)力(li)和大量AI數(shu)據(ju)來(lai)訓(xun)練網(wang)絡模(mo)型，再把模(mo)型推送(song)到(dao)邊(bian)緣(yuan)端進行推理。
現(xian)階(jie)段，由于(yu)邊緣(yuan)AI更(geng)多的模式(shi)是(shi)在邊緣(yuan)推動(dong)，邊緣(yuan)推理實(shi)現(xian)起來就較為(wei)容易些。
但張宇認為，邊緣設(she)備的算力(li)和存儲都是有限的，讓邊緣設(she)備做邊緣推理盡管合理，但也有一定的弊端，那就是模型的更(geng)新(xin)會受到(dao)限制。“因為模型的更(geng)新(xin)是由數據(ju)中心控(kong)制的，不可能隨時隨地為新(xin)進(jin)的數據(ju)更(geng)新(xin)。”他說。
同時在一些(xie)使用場(chang)景對模型更新頻(pin)率的要(yao)求較高，需要(yao)對模型不斷進行動態訓練和更新。因此在今后的AI發展過程中，邊緣訓練是必然的發展趨勢(shi)。
“邊緣(yuan)訓練(lian)是AI在邊緣(yuan)發展的第二(er)個(ge)階段，但(dan)不(bu)是最(zui)終階段。”張宇談道，因(yin)為在當下(xia)的AI技術中(zhong)，人(ren)依然扮(ban)演著重要(yao)角色，并不(bu)是完(wan)全的人(ren)工(gong)智(zhi)能化。
他解釋(shi)，雖(sui)然(ran)現在可以用極大的(de)算力(li)和(he)大量(liang)數據(ju)訓練一個網(wang)絡(luo)系統，但(dan)網(wang)絡(luo)模型(xing)的(de)結構需要人(ren)提前設計，在這個過程中，人(ren)的(de)許(xu)多意識已經嵌入到模型(xing)中，陷入到模型(xing)的(de)使用場景和(he)范圍。
“展(zhan)望(wang)五(wu)年、十年以后的邊(bian)緣(yuan)計算和AI物(wu)聯網的發展(zhan)，一定(ding)會有自(zi)主(zhu)的發展(zhan)。”張宇描繪了這幅畫面——系統會自(zi)主(zhu)化決定(ding)應該選擇模型(xing)、策略、算法(fa)，會自(zi)動(dong)收集數(shu)據訓練(lian)模型(xing)，把訓練(lian)的結果用于實際系統。
“最終一定是自主化(hua)的(de)過程，也就(jiu)是業界(jie)說(shuo)的(de)OpenPose技(ji)術將在業界(jie)普及(ji)。”張(zhang)宇說(shuo)，這一階段也是邊緣AI發(fa)展的(de)最高(gao)階段。
三、新技術路線圖為AI計算盒提供持續動力
正如(ru)張宇所說(shuo)，人工智能的發展(zhan)離不開計算(suan)、通(tong)訊(xun)技術、存(cun)儲(chu)的不斷(duan)提升。而英(ying)特爾作為(wei)一家領(ling)先(xian)的半導(dao)體公司，其產品也恰恰涵(han)蓋(gai)了通(tong)訊(xun)、計算(suan)、存(cun)儲(chu)行業。
在計算(suan)方面，英特爾開發(fa)的(de)CPU、GPU、FPGA不(bu)同的(de)產(chan)品組合，能滿足用戶(hu)對計算(suan)不(bu)同的(de)需求。
在5G基(ji)礎設施(shi)方(fang)面，英(ying)特(te)爾推(tui)出了一系列軟硬(ying)件(jian)產品，包括基(ji)于(yu)英(ying)特(te)爾架(jia)構并用于(yu)5G無線基(ji)站的(de)(de)(de)SO芯片，可以(yi)實現從通(tong)訊的(de)(de)(de)核心網到網絡邊緣(yuan)的(de)(de)(de)復用，極(ji)大降低(di)開發(fa)門(men)檻，加速軟件(jian)開發(fa)速度(du)。
在存(cun)儲(chu)方面，英特爾還擁有Optane技術(shu)，能(neng)大大提升閃存(cun)的讀寫速度(du)，提高存(cun)儲(chu)能(neng)力(li)。
“總之(zhi)，英特(te)爾(er)所提供(gong)的(de)(de)是一個端到端的(de)(de)人工(gong)智能(neng)解決(jue)方案，通過將5G、AI、智能(neng)邊緣三者的(de)(de)融合，將邊緣計(ji)算、人工(gong)智能(neng)推向新(xin)的(de)(de)發展(zhan)方向，這是我們(men)大的(de)(de)思路(lu)和大的(de)(de)戰略(lve)。”張(zhang)宇說(shuo)。
▲從左到右分別為趨視科(ke)技(ji)(ji)事(shi)(shi)業部(bu)(bu)副總經(jing)理夏晶(jing)，英特(te)爾(er)物(wu)聯網事(shi)(shi)業部(bu)(bu)技(ji)(ji)術(shu)銷售經(jing)理劉波，英特(te)爾(er)公司高級(ji)首(shou)席工程(cheng)師、物(wu)聯網事(shi)(shi)業部(bu)(bu)中國區首(shou)席技(ji)(ji)術(shu)官(guan)張宇(yu)，開域集團數字科(ke)技(ji)(ji)負責人應翔翔
在會后與智東西等少數媒體的交流中，英特爾物聯網事業部技術銷售經理劉波也向大家分享了英特爾AI計算盒在過去一年的軟硬件創新。
他談道，在過去一(yi)年多的時(shi)間里(li)，英特爾(er)AI計算盒(he)經歷了幾方面的創新。例(li)如，芯片平(ping)臺從上一(yi)代的Whiskey Lake更新到了Tiger Lake，其中Tiger Lake與上一(yi)代相比性能(neng)有了較大提升。
“一(yi)是在CPU側引入(ru)了向量指令集，二是在GPU方面，Tiger Lake的EU個(ge)(ge)數(shu)最低為48，而Whiskey Lake為24個(ge)(ge)EU，i7是96個(ge)(ge)EU。”劉波說，這樣AI性能(neng)、媒體(ti)編解碼(ma)性能(neng)都(dou)會(hui)有(you)大幅提升。
同時在(zai)算(suan)法(fa)生態方面(mian)，今年英特爾在(zai)零(ling)售、工業、智(zhi)慧社區(qu)算(suan)法(fa)合作(zuo)(zuo)伙伴的基礎上，又引入(ru)了其他幾個算(suan)法(fa)領域(yu)的合作(zuo)(zuo)伙伴，從以往“打(da)點”的形式變成“打(da)面(mian)”，以此更好地(di)服務(wu)更多客戶。
另一方面，基于張宇在演講中談到的“自主邊緣計算是邊緣AI發展的最高階段”，英特爾目前在這方面有何布局？
“算(suan)力方(fang)面(mian)，AI到了自主(zhu)學(xue)習后(hou)對算(suan)力的要求會更高，同時也對數(shu)據(ju)處理的方(fang)法提出新挑戰。”張宇解釋(shi)，尤其在邊緣AI方(fang)面(mian)，如何(he)做數(shu)據(ju)標注等(deng)都是有別于數(shu)據(ju)中心(xin)的學(xue)習特點。
在這(zhe)(zhe)個(ge)方向上，英特(te)爾(er)(er)一直在做相關(guan)工作，針對數(shu)據(ju)標注不斷地擴充(chong)英特(te)爾(er)(er)軟件方面的能力，這(zhe)(zhe)些(xie)能力也將體現(xian)在以(yi)后的版本中。
與此同(tong)(tong)時，英特爾提供(gong)了SPU算力戰略，包括CPU、GPU、FPGA、AI加速芯(xin)(xin)片(pian)VPU等產品組(zu)合(he)，芯(xin)(xin)片(pian)不(bu)同(tong)(tong)的架構也在不(bu)斷迭代，還(huan)區別于不(bu)同(tong)(tong)的芯(xin)(xin)片(pian)工藝。
“昨天，我們(men)發布了今后幾(ji)年(nian)英特爾非常清晰的(de)工藝路線圖，我們(men)會更(geng)多地利用最新技術幫助客戶(hu)(hu)提供更(geng)新一代的(de)產品，這些產品不(bu)僅可以滿足用戶(hu)(hu)對(dui)算力(li)的(de)要求，同時也是異構的(de)。”張宇談(tan)道。
英特爾可以通過封裝技術將不同模塊整合在一(yi)起(qi)，滿(man)足異構的計算(suan)平臺，滿(man)足用戶對算(suan)力(li)和功(gong)能的多樣化需求(qiu)。“這(zhe)些都(dou)是為我們今后(hou)實現自主學習提供堅(jian)實的物質基(ji)礎(chu)。”他說。
那么，英特爾最近公布的新制程工藝和封裝技術路線圖，將會給AI計算盒帶來多大的提升？
“第(di)11代的Tiger Lake處理器和(he)第(di)10代相比，EU數量增(zeng)加(jia)了(le)三倍，整體媒(mei)體編解碼能力(li)(li)和(he)AI推理能力(li)(li)得到了(le)相應(ying)倍數的提(ti)升。”張宇(yu)提(ti)到。
在后(hou)續的(de)(de)產(chan)品里，AI計算盒的(de)(de)集(ji)成顯(xian)卡都將采用(yong)Xe架構，與獨(du)立顯(xian)卡架構一致(zhi)。“這樣就保(bao)證(zheng)我們可以通過(guo)類似的(de)(de)軟件(jian)接口，能讓用(yong)戶(hu)的(de)(de)AI網絡模型(xing)在集(ji)成顯(xian)卡、獨(du)立顯(xian)卡，甚至在不同CPU和AI加速芯片之間(jian)進行遷移，帶來極(ji)大的(de)(de)編(bian)程易用(yong)性(xing)。”他說(shuo)。
結語：英特爾助力邊緣AI應用生態落地發展
隨著5G、物聯(lian)網(wang)、云計算、邊緣計算等(deng)技(ji)術(shu)的(de)發(fa)展，給我(wo)國(guo)新基建帶來了(le)重要的(de)變革力量(liang)。其中，AI技(ji)術(shu)作為其中的(de)核心技(ji)術(shu)引擎(qing)，也在持(chi)續推動多種技(ji)術(shu)向各(ge)個行業(ye)賽道的(de)融合發(fa)展。
英(ying)特爾作為一家(jia)全球科技巨頭企(qi)業，其領先(xian)的(de)軟硬件技術也(ye)為各行各業的(de)AI生(sheng)態建設(she)提供了不可(ke)小(xiao)覷的(de)力(li)量(liang)。未來，我(wo)們也(ye)期待英(ying)特爾能夠(gou)和更多合作伙伴一起，為共同推動邊(bian)緣AI應用(yong)向(xiang)更多領域落地(di)，實現(xian)行業智能化成熟(shu)發(fa)展。
