智東西（公眾號：zhidxcom）
文 | 司北
3月(yue)15日，由智東西主辦(ban)，AWE和(he)極果聯合主辦(ban)的(de)(de)AI芯(xin)片(pian)創(chuang)新峰會(hui)，在上海成功(gong)舉辦(ban)！本次峰會(hui)報名(ming)參會(hui)的(de)(de)觀(guan)(guan)眾覆蓋了近4500家企(qi)業(ye)，到會(hui)觀(guan)(guan)眾極為(wei)專業(ye)，其中總(zong)監以(yi)上級別占比超(chao)過(guo)62%，現(xian)場(chang)實際(ji)到會(hui)人數超(chao)過(guo)1800位(wei)。
大會現場(chang)(chang)，20位人工智能及(ji)AI芯(xin)(xin)片業(ye)界翹楚共聚一堂，系統(tong)的探(tan)討了AI芯(xin)(xin)片在架構創新、生態(tai)構建(jian)、場(chang)(chang)景落地等方面的技(ji)術前(qian)景和產業(ye)趨勢。
▲高通公司技術(shu)副總裁李維興
在(zai)去年(nian)12月5日(ri)年(nian)度驍龍技術峰會(hui)上，高通(tong)發布了(le)自家首款手機AI芯片驍龍855，它首次集成了(le)獨立的(de)AI硬(ying)件處理模塊Tensor Accelerator，并在(zai)第(di)四(si)代人(ren)工(gong)智能(neng)引擎AI Engine的(de)配(pei)合下讓驍龍855的(de)AI算力(li)飆升到每秒7TOPs。
在(zai)去(qu)年的(de)(de)AI芯片峰(feng)會上(shang)，高(gao)通公司技術副總裁李(li)維興首次在(zai)中國(guo)介紹(shao)了人工智(zhi)能引擎AI Engine。今天，李(li)維興再次登上(shang)了GTIC?2019的(de)(de)舞臺，帶(dai)來了主題為《加(jia)速終端側AI的(de)(de)未來》的(de)(de)演講，從5G與AI相結(jie)合的(de)(de)角度闡(chan)述了高(gao)通在(zai)人工智(zhi)能、云端、終端側的(de)(de)觀點和產品規(gui)劃。
李維興(xing)認為，5G與(yu)(yu)AI息息相(xiang)關，尤其是在云端(duan)(duan)AI與(yu)(yu)終端(duan)(duan)AI并行發展的當下，5G能夠將云與(yu)(yu)端(duan)(duan)的AI性能連接在一起(qi)。2019年將會是全球(qiu)(qiu)5G+AI的重要節點，當前高(gao)通的驍(xiao)龍855的5G終端(duan)(duan)設計(ji)已經超過(guo)30款，絕大多數全球(qiu)(qiu)5G手機都(dou)會和855有關。
對于(yu)AI來說(shuo)，軟件與(yu)應用(yong)同(tong)樣重要。除了發布(bu)AI芯片驍(xiao)龍855之外，高(gao)(gao)通已經推出了四代AI平臺(tai)，并跟商湯(tang)、曠視(shi)、虹軟、科大(da)訊(xun)飛、網易等業界(jie)眾(zhong)多(duo)軟件AI合(he)作伙伴。2018年，高(gao)(gao)通還正(zheng)式成立(li)了Qualcomm AI Research，對AI從(cong)研發到(dao)變成產品做了非(fei)常多(duo)的(de)工(gong)作項目。
李維興表(biao)示(shi)，2035年(nian)之前，5G的產品和服務(wu)將(jiang)會累計到12.3萬億(yi)美元，2025年(nian)AI衍(yan)生的商(shang)業價值(zhi)將(jiang)達5.1萬億(yi)美元，5G跟(gen)AI其實是互相(xiang)幫(bang)(bang)忙的情況，魚(yu)幫(bang)(bang)水(shui)(shui)、水(shui)(shui)幫(bang)(bang)魚(yu)。
附高通技術副總裁李維興演講實錄
李(li)維興(xing)：大家(jia)好！我是李(li)維興(xing)，今(jin)天很高興(xing)能夠代表Qualcomm再次出席此次活動。接下來，我想(xiang)與大家(jia)分享Qualcomm在AI領域的(de)最新進展，以及(ji)我們對(dui)云端(duan)、終端(duan)側AI的(de)一些想(xiang)法。
很多人(ren)都是(shi)從通信(xin)開始知道Qualcomm這家企業的(de)(de)(de)。過(guo)去(qu)30多年(nian)，Qualcomm一(yi)直(zhi)在推(tui)動(dong)(dong)每(mei)一(yi)代移動(dong)(dong)技(ji)術(shu)(shu)的(de)(de)(de)演(yan)進，從模擬技(ji)術(shu)(shu)到(dao)數字技(ji)術(shu)(shu)，從2G、3G、4G、再到(dao)現(xian)(xian)(xian)在的(de)(de)(de)5G，從功(gong)能(neng)手(shou)機到(dao)智(zhi)能(neng)手(shou)機，每(mei)一(yi)款智(zhi)能(neng)手(shou)機都使用了(le)Qualcomm的(de)(de)(de)技(ji)術(shu)(shu)，我們(men)改(gai)變了(le)人(ren)們(men)生(sheng)活(huo)、工作和連接的(de)(de)(de)方式(shi)(shi)。對于中(zhong)國(guo)的(de)(de)(de)4G而(er)言，2014年(nian)是(shi)一(yi)個(ge)非常重要的(de)(de)(de)時(shi)間點。除了(le)支持(chi)4G的(de)(de)(de)帶(dai)寬(kuan)速度(du)外，Qualcomm還推(tui)動(dong)(dong)實現(xian)(xian)(xian)了(le)從臺式(shi)(shi)電腦到(dao)智(zhi)能(neng)手(shou)機的(de)(de)(de)突破。Qualcomm花費多年(nian)時(shi)間開發相關技(ji)術(shu)(shu)，目的(de)(de)(de)是(shi)在尺寸、散熱、功(gong)耗受到(dao)限制的(de)(de)(de)移動(dong)(dong)環境下實現(xian)(xian)(xian)接近PC的(de)(de)(de)處(chu)理能(neng)力。現(xian)(xian)(xian)在，智(zhi)能(neng)手(shou)機擁有的(de)(de)(de)強大計算(suan)能(neng)力，可(ke)以為我們(men)的(de)(de)(de)生(sheng)活(huo)帶(dai)來更大的(de)(de)(de)便利，這些都是(shi)十分重要的(de)(de)(de)改(gai)變。
現(xian)在(zai)，我們正(zheng)在(zai)進入下一(yi)代移動通信技術革命——5G。5G帶來的(de)不(bu)僅僅是(shi)人與人之間的(de)連接，它將(jiang)(jiang)(jiang)助力實(shi)現(xian)萬(wan)(wan)物互(hu)聯。從5G角(jiao)度(du)，到(dao)2035年(nian)，5G相(xiang)關(guan)產品和(he)服(fu)務(wu)將(jiang)(jiang)(jiang)產生累計12.3萬(wan)(wan)億美元的(de)價值；從AI角(jiao)度(du)，到(dao)2025年(nian)，AI衍生的(de)商業價值將(jiang)(jiang)(jiang)達5.1萬(wan)(wan)億美元。在(zai)Qualcomm，AI和(he)5G是(shi)高度(du)相(xiang)關(guan)的(de)，同時它們的(de)并行發(fa)展也(ye)將(jiang)(jiang)(jiang)激(ji)發(fa)諸多(duo)產品創新(xin)，讓更多(duo)終端智能互(hu)連。
大家剛剛可(ke)(ke)能也(ye)觀察到(dao)了(le)，在(zai)今天這個(ge)AI芯片峰(feng)會(hui)上，我的(de)(de)(de)(de)主題演講(jiang)是(shi)先(xian)從(cong)5G講(jiang)起的(de)(de)(de)(de)，這是(shi)因(yin)為(wei)(wei)從(cong)Qualcomm的(de)(de)(de)(de)角度，5G和AI是(shi)高(gao)度相關的(de)(de)(de)(de)。5G時(shi)代，訓練(lian)、推理(li)將(jiang)在(zai)云端(duan)處(chu)理(li)，所有(you)的(de)(de)(de)(de)邊緣終(zhong)端(duan)都將(jiang)具備機器學習(xi)能力。這意(yi)味著，數(shu)據處(chu)理(li)將(jiang)可(ke)(ke)以在(zai)最靠近(jin)數(shu)據源的(de)(de)(de)(de)位(wei)置處(chu)理(li)，對(dui)云端(duan)處(chu)理(li)進行(xing)補充。這將(jiang)很好(hao)地保證了(le)用戶的(de)(de)(de)(de)隱(yin)私性(xing)，因(yin)為(wei)(wei)在(zai)終(zhong)端(duan)里便可(ke)(ke)以支持(chi)實時(shi)的(de)(de)(de)(de)機器學習(xi)處(chu)理(li)。同時(shi)因(yin)為(wei)(wei)在(zai)最靠近(jin)數(shu)據源的(de)(de)(de)(de)位(wei)置完成處(chu)理(li)，它還(huan)將(jiang)帶來可(ke)(ke)靠性(xing)和低時(shi)延(yan)。終(zhong)端(duan)側(ce)處(chu)理(li)還(huan)將(jiang)帶來高(gao)效性(xing)，因(yin)為(wei)(wei)它始終(zhong)面(mian)向移動環(huan)境對(dui)于外形(xing)尺寸(cun)、能效、性(xing)能等(deng)方面(mian)的(de)(de)(de)(de)挑戰。此外，它也(ye)將(jiang)有(you)助于支持(chi)個(ge)性(xing)化。2019年是(shi)全球5G向前(qian)發展(zhan)一個(ge)十分關鍵的(de)(de)(de)(de)時(shi)間(jian)點，在(zai)云端(duan)進行(xing)AI的(de)(de)(de)(de)訓練(lian)、推理(li)，在(zai)終(zhong)端(duan)側(ce)進行(xing)AI的(de)(de)(de)(de)數(shu)據處(chu)理(li)，這是(shi)值得期待的(de)(de)(de)(de)戰略。
進入(ru)到(dao)智(zhi)能(neng)(neng)手機時代，不(bu)難發現(xian)，手機已經成為(wei)移(yi)動(dong)通信(xin)計(ji)算平(ping)臺上最重要(yao)的一部分。從2018年到(dao)2022年，智(zhi)能(neng)(neng)手機的累計(ji)出貨(huo)量將(jiang)超過86億部，移(yi)動(dong)終端(duan)的規模(mo)將(jiang)為(wei)構建人工智(zhi)能(neng)(neng)平(ping)臺帶來巨大潛能(neng)(neng)。Qualcomm開發的先(xian)進通信(xin)能(neng)(neng)力(li)、計(ji)算能(neng)(neng)力(li)、多(duo)媒(mei)體(ti)、低功耗等(deng)技(ji)(ji)術(shu)(shu)讓小(xiao)尺寸終端(duan)實(shi)現(xian)了豐富的功能(neng)(neng)，這也(ye)是為(wei)什么智(zhi)能(neng)(neng)手機是目前最重要(yao)的技(ji)(ji)術(shu)(shu)應(ying)用和創新(xin)平(ping)臺。
Qualcomm從多(duo)年(nian)前開始人工(gong)智能(neng)的(de)研究。Qualcomm在(zai)(zai)2007年(nian)啟動首(shou)個AI項目，在(zai)(zai)此(ci)之后，我(wo)(wo)們也陸續參(can)與了很(hen)多(duo)AI項目，并對AI的(de)發展做(zuo)出諸多(duo)貢獻。在(zai)(zai)2018年(nian)，我(wo)(wo)們宣布(bu)成(cheng)立Qualcomm AI Research，在(zai)(zai)公司范圍內開展的(de)全部前沿AI研究，并進行跨(kua)各職能(neng)部門的(de)協作式強化整合(he)，希望(wang)將終端側(ce)智能(neng)拓(tuo)展至更(geng)多(duo)全新行業。目前我(wo)(wo)們的(de)研究已經應用到(dao)了產品側(ce)——從第一代人工(gong)智能(neng)平臺(tai)驍龍(long)820到(dao)第四代平臺(tai)驍龍(long)855，我(wo)(wo)們很(hen)高興地看到(dao)驍龍(long)移動平臺(tai)正在(zai)(zai)助(zhu)力全球合(he)作實現更(geng)智能(neng)的(de)AI用例。接下(xia)來(lai)我(wo)(wo)想和大家介紹一下(xia)我(wo)(wo)們的(de)四代AI平臺(tai)。
我(wo)們(men)的(de)(de)第一代AI平臺是驍龍(long)820。研究人員和(he)商業開發者(zhe)可在(zai)我(wo)們(men)的(de)(de)CPU上(shang)運行(xing)(xing)神(shen)經(jing)網絡(luo)，比(bi)較典型(xing)的(de)(de)就是運行(xing)(xing)Caffe。Caffe是當時最(zui)主流的(de)(de)架構，是商用(yong)領域很多相(xiang)關研發的(de)(de)基礎。這時候我(wo)們(men)可以(yi)直(zhi)接把神(shen)經(jing)網絡(luo)訓練放在(zai)終端的(de)(de)CPU上(shang)進行(xing)(xing)。
第二(er)代AI平臺是(shi)驍(xiao)龍(long)835，它引入了(le)神經處理SDK。我們(men)也與Google和Facebook進(jin)行(xing)(xing)了(le)深入合作，針對(dui)兩(liang)者提供的(de)框(kuang)(kuang)架進(jin)行(xing)(xing)了(le)優化(hua)，在(zai)終(zhong)端(duan)側支持TensorFlow和Caffe2，它們(men)曾經都是(shi)通常在(zai)云(yun)端(duan)運行(xing)(xing)的(de)框(kuang)(kuang)架。一旦網絡(luo)受到(dao)了(le)訓練(lian)，開發(fa)者就可以(yi)從驍(xiao)龍(long)移動平臺中選擇CPU、GPU、DSP的(de)合適(shi)內核(he)運行(xing)(xing)，我們(men)對(dui)所(suo)有(you)這些(xie)內核(he)都進(jin)行(xing)(xing)了(le)優化(hua)。另外，離線工(gong)具可以(yi)在(zai)目標(biao)運行(xing)(xing)前(qian)，對(dui)模型進(jin)行(xing)(xing)轉(zhuan)換、優化(hua)、量化(hua)。
第三代AI平臺是驍(xiao)(xiao)龍(long)845。在驍(xiao)(xiao)龍(long)845上(shang)，我(wo)(wo)們(men)對(dui)每一(yi)顆內核(he)的(de)(de)計算(suan)能力都進行了(le)(le)擴展，同時我(wo)(wo)們(men)也擴展了(le)(le)對(dui)更(geng)多的(de)(de)神(shen)經(jing)網絡框架的(de)(de)支持(chi)。一(yi)方(fang)面(mian)，我(wo)(wo)們(men)直(zhi)接與這些神(shen)經(jing)網絡框架供(gong)應商(shang)合作；另一(yi)方(fang)面(mian)，我(wo)(wo)們(men)也支持(chi)了(le)(le)ONNX交換(huan)格式，能輕松地為開發者(zhe)提供(gong)更(geng)多靈活性，從而讓(rang)他們(men)無需擔心底(di)層硬件支持(chi)的(de)(de)何種網路(lu)的(de)(de)問題。
第(di)四(si)代AI平臺是(shi)(shi)驍龍(long)855。在驍龍(long)855上(shang)，它充分利用驍龍(long)的(de)異構(gou)多核可編程架構(gou)，對每個內核進行大幅優化和(he)提升，強調整體芯(xin)片面(mian)向AI計(ji)算的(de)高(gao)效率和(he)靈(ling)活(huo)性(xing)。特別(bie)值得注意的(de)是(shi)(shi)，第(di)四(si)代人工智能引擎AI Engine包括(kuo)四(si)個HVX（Hexagon向量(liang)擴展內核），同時(shi)新(xin)增了一個Qualcomm自主設計(ji)、面(mian)向AI處理的(de)硬件核心(xin)HTA （Hexagon張量(liang)加速器(qi)）。此外，第(di)四(si)代人工智能引擎AI Engine可以實現(xian)每秒超過7萬(wan)億(yi)次運算（7TOPs），整體AI性(xing)能是(shi)(shi)Android競(jing)品旗艦產品的(de)2倍以上(shang)。
驍龍(long)855除了集(ji)成(cheng)我(wo)們第(di)四代AI Engine，在(zai)(zai)AI處理(li)以及算力方(fang)面性能顯著提升之(zhi)外，我(wo)還(huan)要強調(diao)一下的(de)(de)(de)(de)是，驍龍(long)855是全球(qiu)(qiu)首款商(shang)用(yong)(yong)的(de)(de)(de)(de)5G移(yi)動平臺，與驍龍(long)X50搭(da)配可以支(zhi)持(chi)數千兆比(bi)(bi)特(te)5G連接。目前，采用(yong)(yong)驍龍(long)855的(de)(de)(de)(de)5G終(zhong)端設計超過30款。包括小米、OPPO、一加(jia)、中(zhong)興通(tong)訊、努比(bi)(bi)亞、三星和LG等在(zai)(zai)內的(de)(de)(de)(de)全球(qiu)(qiu)多(duo)家(jia)手(shou)機廠商(shang)已經正(zheng)式(shi)發布或展示了采用(yong)(yong)驍龍(long)855的(de)(de)(de)(de)首批5G智能手(shou)機。通(tong)過驍龍(long)855對于5G和AI的(de)(de)(de)(de)支(zhi)持(chi)，Qualcomm正(zheng)在(zai)(zai)攜手(shou)全球(qiu)(qiu)基礎(chu)設施廠商(shang)、運營(ying)商(shang)，進一步(bu)發掘5G與AI的(de)(de)(de)(de)潛力，希望為(wei)全球(qiu)(qiu)用(yong)(yong)戶帶來的(de)(de)(de)(de)全新(xin)水平的(de)(de)(de)(de)移(yi)動體驗。
接下來我(wo)想(xiang)介紹Qualcomm眾多(duo)產(chan)(chan)品線上(shang)的(de)(de)AI能(neng)(neng)力。首先是驍龍(long)(long)(long)SoC，它包含驍龍(long)(long)(long)800系(xi)(xi)列(lie)、驍龍(long)(long)(long)700系(xi)(xi)列(lie)、驍龍(long)(long)(long)600系(xi)(xi)列(lie)、驍龍(long)(long)(long)400系(xi)(xi)列(lie)。如圖所示，標記為(wei)紅色(se)的(de)(de)芯(xin)片與(yu)標記為(wei)藍色(se)的(de)(de)芯(xin)片均支持(chi)(chi)AI能(neng)(neng)力，差別在(zai)于，標記為(wei)紅色(se)的(de)(de)SoC支持(chi)(chi)Qualcomm人工(gong)智能(neng)(neng)引(yin)擎AI Engine。此外，在(zai)計(ji)算(suan)平臺(tai)(tai)(tai)方面，驍龍(long)(long)(long)8cx是面向(xiang)Windows 10用戶的(de)(de)移動計(ji)算(suan)平臺(tai)(tai)(tai)，也支持(chi)(chi)AI Engine。在(zai)物聯網方面，我(wo)們的(de)(de)很多(duo)產(chan)(chan)品也支持(chi)(chi)豐(feng)富的(de)(de)AI用例(li)。對于擴展(zhan)現實（XR），對AI的(de)(de)支持(chi)(chi)同(tong)樣非(fei)常(chang)重(zhong)要，因為(wei)業(ye)界(jie)對于新的(de)(de)人機界(jie)定(ding)非(fei)常(chang)重(zhong)視。另外，汽車(che)也是通信半(ban)導(dao)體(ti)計(ji)算(suan)平臺(tai)(tai)(tai)的(de)(de)下一個演進(jin)平臺(tai)(tai)(tai)。
事實上(shang)，很多終端上(shang)已經商(shang)用了(le)豐(feng)富的(de)AI用例，比如(ru)計算(suan)攝影、背(bei)景虛化、自動對焦、關鍵詞檢測、音頻相關的(de)單麥克(ke)風降噪等。在軟件合(he)作(zuo)伙(huo)伴(ban)中，超過20家AI軟件合(he)作(zuo)伙(huo)伴(ban)正在基于驍龍(long)移動平臺上(shang)人工智能引擎AI Engine來開(kai)發算(suan)法，以打造豐(feng)富的(de)AI用例，如(ru)拍攝、音頻、增強現實、汽車。此外，Qualcomm還與廣泛(fan)的(de)AI云服務商(shang)展(zhan)開(kai)合(he)作(zuo)，包括(kuo)騰訊、百度、Facebook、Google和微軟等。
無論(lun)是AI實(shi)(shi)時(shi)翻譯還是AI醫療，這是AI用(yong)例都讓我(wo)們(men)倍(bei)感振奮。但要(yao)實(shi)(shi)現(xian)規(gui)模化，智能(neng)(neng)(neng)必須(xu)分布至無線(xian)邊(bian)緣(yuan)(yuan)。讓數(shu)萬(wan)億相(xiang)互連接的(de)(de)(de)物(wu)體以及(ji)海量數(shu)據(ju)，可以進(jin)行學習(xi)并在(zai)(zai)邊(bian)緣(yuan)(yuan)實(shi)(shi)時(shi)完(wan)成很多(duo)時(shi)處(chu)理(li)數(shu)據(ju)的(de)(de)(de)工作并非易事，因為在(zai)(zai)邊(bian)緣(yuan)(yuan)進(jin)行機(ji)器學習(xi)意味著需要(yao)在(zai)(zai)有限的(de)(de)(de)環境中同時(shi)完(wan)成多(duo)類(lei)型的(de)(de)(de)任務。那么(me)如何讓工廠自動化、汽車自動化，又如何保(bao)證(zheng)高效、個性(xing)化、隱(yin)私性(xing)和可靠性(xing)呢？我(wo)們(men)需要(yao)提供(gong)不(bu)同的(de)(de)(de)解決(jue)方案，讓AI訓練和推理(li)遍布整個網絡，真(zhen)正在(zai)(zai)邊(bian)緣(yuan)(yuan)實(shi)(shi)現(xian)人(ren)工智能(neng)(neng)(neng)。對于Qualcomm，我(wo)們(men)擁有領先的(de)(de)(de)、通過AI增強的(de)(de)(de)調制解調器和射頻前端（RFFE），可以提供(gong)業界最(zui)佳(jia)的(de)(de)(de)性(xing)能(neng)(neng)(neng)和功(gong)耗。
要(yao)實(shi)現無線邊緣，5G跟AI是互相幫忙的(de)(de)，魚幫水(shui)、水(shui)幫魚。超高速(su)、低時(shi)延的(de)(de)5G連接(jie)除(chu)了可(ke)以接(jie)入互聯網外，還可(ke)以與(yu)額(e)外的(de)(de)處理器進行(xing)連接(jie)。這也就意味著，當(dang)我們在(zai)無線邊緣構建計算(suan)能力(li)時(shi)，移動終(zhong)端上的(de)(de)邊緣處理能力(li)與(yu)5G之間的(de)(de)結(jie)合，將為終(zhong)端帶來(lai)無比強大的(de)(de)算(suan)力(li)。因此，從Qualcomm的(de)(de)角(jiao)度，AI和5G的(de)(de)并行(xing)發展(zhan)是一(yi)個(ge)非常自然的(de)(de)過程。
Qualcomm致力于利用我(wo)們的研發投入推(tui)動(dong)技術創新、推(tui)動(dong)5G和AI向前發展，讓(rang)所有終端智能互連。未來，Qualcomm將在移動(dong)行業(ye)中繼續引領5G和AI的演進，為(wei)業(ye)界做出重要(yao)貢(gong)獻(xian)。
以上是我(wo)跟大家的簡單報告，謝謝各位。
